Nutanix ha anunciado nuevas funcionalidades para Nutanix GPT-in-a-Box, incluyendo integraciones con los microservicios de inferencia NVIDIA NIM y la librería Hugging Face Large Language Models (LLMs). Además, la compañía anunció el Nutanix AI Partner Program, destinado a reunir a los principales socios de soluciones y servicios de IA para apoyar a los clientes que buscan ejecutar, gestionar y asegurar aplicaciones de IA generativa (GenAI) sobre Nutanix Cloud Platform y GPT-in-a-Box. Nutanix GPT-in-a-Box es una solución completa diseñada para simplificar la adopción de IA empresarial con una estrecha integración con Nutanix Objects y Nutanix Files para el almacenamiento de modelos y datos.
“Vimos una gran respuesta a nuestro lanzamiento original de Nutanix GPT-in-a-Box, validando las necesidades de los clientes Enterprise para soluciones de software en las instalaciones que simplifican el despliegue y la gestión de modelos de IA y puntos finales de inferencia”, dijo Thomas Cornely, SVP de Gestión de Producto en Nutanix. “Enterprise es la nueva frontera para GenAI y estamos entusiasmados de trabajar con nuestro ecosistema de socios de rápido crecimiento para hacer que sea lo más simple posible ejecutar aplicaciones GenAI en las instalaciones a escala mientras se mantiene el control sobre la privacidad y el costo.”
Nutanix GPT-in-a-Box 2.0
La compañía ha anunciado GPT-in-a-Box 2.0, que ofrecerá soporte ampliado de computación acelerada NVIDIA y LLM, junto con gestión simplificada de modelos fundacionales e integraciones con microservicios NVIDIA NIMs y la librería LLM Hugging Face. GPT-in-a-Box 2.0 incluirá una interfaz de usuario unificada para la gestión de modelos fundacionales, la creación de puntos finales de API y la gestión de claves de acceso de usuario final, e integrará Nutanix Files and Objects, además de las GPU NVIDIA Tensor Core.
GPT-in-a-Box 2.0 aportará la simplicidad de Nutanix a la experiencia del usuario con una interfaz gráfica de usuario integrada, control de acceso basado en roles, auditabilidad y soporte de sitios oscuros, entre otras ventajas. También proporcionará una interfaz de usuario de apuntar y hacer clic para desplegar y configurar NVIDIA NIM, parte de la plataforma de software NVIDIA AI Enterprise para el desarrollo y despliegue de IA de grado de producción, para desplegar y ejecutar fácilmente cargas de trabajo GenAI en Enterprise y en el Edge.
“Nos hemos asociado con Nutanix como uno de nuestros socios tecnológicos clave para permitir nuestras ambiciones de IA mientras potenciamos un futuro en el que la tecnología esté al servicio de la humanidad”, dijo Khalid Al Kaf, Jefe de operaciones de Yahsat. “No solo estamos siguiendo el ritmo del futuro; lo estamos moldeando activamente, aprovechando Nutanix GPT-in-a-Box, que nos proporciona capacidades de gestión sencillas e integrales y la capacidad de mantener el control sobre nuestros datos.”
Asociación con Hugging Face para ofrecer acceso integrado a la biblioteca del LLM
Nutanix también anunció una asociación con Hugging Face para ayudar a acelerar el viaje de la IA de los clientes, proporcionando acceso integrado a la biblioteca de Hugging Face y la ejecución de LLMs para los clientes de Nutanix. Los clientes podrán aprovechar Nutanix GPT-in-a-Box 2.0 para consumir fácilmente LLM validados de Hugging Face y ejecutarlos de manera eficiente.
A través de esta asociación, Nutanix y Hugging Face desarrollarán una integración personalizada con Text Generation Inference, la popular biblioteca de código abierto de Hugging Face para el despliegue en producción de Large Language Models, y habilitarán modelos de generación de texto disponibles en el Hugging Face Hub dentro de Nutanix GPT-in-a-Box 2.0. Proporcionará un flujo de trabajo sin fisuras para desplegar los LLM de IA validados de Hugging Face con el pleno apoyo de Nutanix, ampliando significativamente el número de LLM compatibles. Esto creará un flujo de trabajo validado y soportado conjuntamente para las bibliotecas y LLMs de Hugging Face, asegurando que los clientes tengan un único punto de gestión para la inferencia de modelos consistentes.
Plataforma de datos no estructurados reforzada para IA/ML
Nutanix también ha mejorado su plataforma de datos no estructurados para IA/ML y otras aplicaciones con mayor rendimiento, densidad y costo total de propiedad. Nutanix Unified Storage (NUS) soporta ahora una nueva plataforma de 550+ Terabytes densa y de bajo costo totalmente NVMe y un rendimiento de lectura secuencial de hasta 10 Gigabytes/segundo desde un único nodo (cercano a la velocidad de línea de un puerto ethernet de 100 Gigabit), lo que permite lecturas de datos más rápidas y un uso más eficiente de los recursos de la GPU.
Nutanix también añadirá compatibilidad con NVIDIA GPUDirect Storage para acelerar aún más las aplicaciones de IA/ML. Además, para proteger los datos extremadamente valiosos y a menudo confidenciales, como los conjuntos de datos utilizados para entrenar y procesar las cargas de trabajo de IA/ML, Nutanix Data Lens amplía el valor de la ciber resiliencia a los objetos, además de a los datos de archivos. Un nuevo punto de presencia de Data Lens con sede en Frankfurt permite una adopción más amplia en los clientes de la UE, satisfaciendo sus propias necesidades de cumplimiento.
Nutanix ha colaborado con los principales fabricantes de servidores para ofrecer a los clientes una amplia gama de GPU optimizadas para IA y sistemas de GPU optimizados para densidad. Estas GPU optimizadas para IA, incluidas las GPU NVIDIA L40S, H100, L40 y L4, ahora son compatibles con Nutanix GPT-in-a-Box. Nutanix también es ahora compatible con los sistemas de GPU de densidad optimizada de Dell, HPE y Lenovo para ayudar a reducir el costo total de propiedad al permitir a los clientes implementar un menor número de sistemas para satisfacer sus demandas de carga de trabajo. La compañía también ha anunciado la compatibilidad prevista con NX-9151, que se basa en la arquitectura de referencia NVIDIA MGX.
Programa de partners de IA de Nutanix
Para apoyar aún más las estrategias de IA de los clientes, Nutanix anunció el nuevo AI Partner Program que proporciona un acceso simplificado a un ecosistema ampliado de socios de IA para ofrecer soluciones GenAI del mundo real. Los socios ayudarán a las organizaciones a construir, ejecutar, gestionar y asegurar aplicaciones GenAI de terceros y de cosecha propia sobre Nutanix Cloud Platform y la solución Nutanix GPT-in-a-Box, dirigida a casos de uso de IA prominentes.
Este amplio ecosistema de socios ayudará a abordar diversos casos de uso, como operaciones, ciberseguridad, detección de fraudes y atención al cliente, en sectores verticales como la sanidad, los servicios financieros y los servicios jurídicos y profesionales. Entre los socios iniciales figuran: Codeium, DataRobot, DKube, Instabase, Lamini, Neural Magic, Robust Intelligence, RunAI y UbiOps.
Entre los beneficios del programa para los socios se incluyen:
Se espera que Nutanix GPT-in-a-Box 2.0 esté disponible en la segunda mitad de 2024. La compatibilidad con NVIDIA GPU Direct y NX-9151 está actualmente en desarrollo. Las funciones adicionales anunciadas en NUS, así como Data Lens, están actualmente a disposición de los clientes.
Si hasta hace un par de años el foco eran solo las empresas, hoy los…
Yalo explica que esta revolución es impulsada por la integración de aplicaciones de mensajería, la…
Por Hang Tan, director de Operaciones de HPE Hybrid Cloud.
ESET analiza de qué manera el cibercrimen puede sacar provecho de una industria que mueve…
Por Denis Pineda, gerente general de Universal Robots.
En el stand de ASUS podrás conocer y probar las laptops más nuevas de las…