La nueva VMware Private AI Foundation con NVIDIA permite a las empresas preparar sus negocios para la IA generativa; la plataforma apoyará aún más la privacidad, la seguridad y el control de los datos
Las Vegas/VMware Explore 2023 (23 de agosto de 2023) — VMware y NVIDIA acaban de anunciar la ampliación de su alianza estratégica para preparar a los cientos de miles de empresas que utilizan la infraestructura de nube de VMware para la era de la IA generativa.
VMware Private AI Foundation with NVIDIA permitirá a las empresas personalizar modelos y ejecutar aplicaciones de IA generativa, incluidos chatbots inteligentes, asistentes, búsqueda y resumen. La plataforma será una solución totalmente integrada con software de IA generativa y computación acelerada de NVIDIA, construida sobre VMware Cloud Foundation y optimizada para la IA.
"La IA generativa y la multi-nube son la combinación perfecta", dijo Raghu Raghuram, CEO de VMware. "Los datos de los clientes están en todas partes: en sus centros de datos, en el perímetro y en sus nubes. Junto con NVIDIA, capacitaremos a las empresas para ejecutar sus cargas de trabajo de IA generativa adyacentes a sus datos con confianza, al tiempo que abordamos sus preocupaciones corporativas de privacidad, seguridad y control de datos."
"Jensen Huang, fundador y CEO de NVIDIA, afirma: "Las empresas de todo el mundo se apresuran a integrar la IA generativa en sus negocios. "Nuestra colaboración ampliada con VMware ofrecerá a cientos de miles de clientes -a través de servicios financieros, atención médica, fabricación y más- el software y la computación de pila completa que necesitan para liberar el potencial de la IA generativa utilizando aplicaciones personalizadas construidas con sus propios datos."
Computación completa para potenciar la IA generativa
Para obtener beneficios empresariales con mayor rapidez, las empresas tratan de agilizar el desarrollo, las pruebas y la implantación de aplicaciones de IA generativa. McKinsey estima que la IA generativa podría aportar hasta 4,4 billones de dólares anuales a la economía mundial.(1)
VMware Private AI Foundation con NVIDIA permitirá a las empresas aprovechar esta capacidad, personalizar grandes modelos lingüísticos, producir modelos más seguros y privados para su uso interno y ofrecer IA generativa como servicio a sus usuarios, así como ejecutar cargas de trabajo de inferencia a escala de forma más segura.
Se espera que la plataforma incluya herramientas de IA integradas que permitan a las empresas ejecutar modelos probados entrenados con sus datos privados de forma rentable. Basada en VMware Cloud Foundation y el softwaRE NVIDIA AI Enterprise la plataforma ofrecerá las siguientes ventajas:
- Privacidad - Permitirá a los clientes ejecutar fácilmente servicios de IA adyacentes a dondequiera que tengan datos con una arquitectura que preserve la privacidad de los datos y permita un acceso seguro.
- Capacidad de elección - las empresas tendrán una amplia gama de opciones para elegir dónde crear y ejecutar sus modelos (desde NVIDIA NeMo™ hasta Llama 2 y más allá), incluidas las principales configuraciones de hardware OEM y, en el futuro, en la nube pública y las ofertas de los proveedores de servicios.
- Rendimiento - la ejecución en la infraestructura acelerada de NVIDIA proporcionará un rendimiento igual e incluso superior al de la infraestructura básica en algunos casos de uso, como se ha demostrado en comparativas recientes del sector.
- Escalada del centro de datos - las optimizaciones de escalado de GPU en entornos virtualizados permitirán escalar las cargas de trabajo de IA en hasta 16 vGPU/GPU en una sola máquina virtual y en varios nodos para acelerar el ajuste y la implantación de modelos generativos de IA
- Menor coste - maximizará el uso de todos los recursos informáticos, GPU, DPU y CPU para reducir los costes generales y crear un entorno de recursos comunes que puedan compartirse de forma eficiente entre los equipos.
- Almacenamiento acelerado - la arquitectura de almacenamiento Express de VMware vSAN proporcionará almacenamiento NVMe de rendimiento optimizado y admite el almacenamiento GPUDirect optimizado NVMe y admite el almacenamiento GPUDirect® sobre RDMA, lo que permite la transferencia directa de E/S desde el almacenamiento a las GPU sin intervención de la CPU.
- Redes aceleradas - la profunda integración entre vSphere y la tecnología NVIDIA NVSwitch™ permitirá aún más que los modelos multi-GPU se ejecuten sin cuellos de botella entre GPU.
- Despliegue rápido y tiempo de generación de valor - las imágenes de vSphere Deep Learning VM y el repositorio de imágenes permitirán una rápida capacidad de creación de prototipos al ofrecer una imagen de solución llave en mano estable que incluye frameworks y librerías de rendimiento optimizado preinstaladas.
La plataforma contará con NVIDIA NeMo, un marco integral nativo de la nube incluido en NVIDIA AI Enterprise -el sistema operativo de la plataforma de IA de NVIDIA- que permite a las empresas crear, personalizar e implantar modelos de IA generativa prácticamente en cualquier lugar. NeMo combina marcos de personalización, conjuntos de herramientas de protección, herramientas de curación de datos y modelos preentrenados para ofrecer a las empresas una forma fácil, rentable y rápida de adoptar la IA generativa.
Para implantar la IA generativa en producción, NeMo utiliza TensorRT for Large Language Models (TRT-LLM), que acelera y optimiza el rendimiento de inferencia en los últimos LLM en las GPU NVIDIA. Con NeMo, VMware Private AI Foundation con NVIDIA permitirá a las empresas extraer sus propios datos para crear y ejecutar modelos de IA generativa personalizados en la infraestructura de nube híbrida de VMware.
En VMware Explore 2023, NVIDIA y VMware destacarán cómo los desarrolladores de las empresas pueden utilizar el Nuevo NVIDIA AI Workbench para extraer modelos de la comunidad, como Llama 2, disponible en on Hugging Face, personalizarlos de forma remota e implantar IA generativa de nivel de producción en entornos VMware.
Amplio soporte del ecosistema para VMware Private AI Foundation con NVIDIA
VMware Private AI Foundation con NVIDIA contará con el respaldo de Dell Technologies, Hewlett Packard Enterprise y Lenovo, que estarán entre los primeros en ofrecer sistemas que potencian las cargas de trabajo de personalización e inferencia de LLM empresarial con NVIDIA L40S GPUs, NVIDIA BlueField®-3 DPUs y NVIDIA ConnectX®-7 SmartNICs.
La GPU NVIDIA L40S permite hasta 1,2 veces más rendimiento de inferencia generativa de IA y hasta 1,7 veces más rendimiento de entrenamiento en comparación con la GPU NVIDIA A100 Tensor Core.
Las DPU NVIDIA BlueField-3 aceleran, descargan y aíslan de la GPU o la CPU la enorme carga computacional de la virtualización, las redes, el almacenamiento, la seguridad y otros servicios de IA nativos de la nube.
Las NVIDIA ConnectX-7 SmartNIC ofrecen redes inteligentes y aceleradas para que la infraestructura del centro de datos impulse algunas de las cargas de trabajo de IA más exigentes del mundo.
VMware Private AI Foundation con NVIDIA se basa en la colaboración que ambas compañías mantienen desde hace una década. Su trabajo conjunto de ingeniería ha optimizado la infraestructura de nube de VMware para ejecutar NVIDIA AI Enterprise con un rendimiento comparable al de la tecnología bare metal. Además, los clientes de ambas empresas se benefician de la gestión de recursos e infraestructuras y de la flexibilidad que ofrece VMware Cloud Foundation.
Disponibilidad
VMware tiene previsto lanzar VMware Private AI Foundation con NVIDIA a principios de 2024.
Citas
1- El potencial económico de la IA generativa: la próxima frontera de la productividad, McKinsey, 2023
Acerca de NVIDIA
Desde su fundación en 1993, NVIDIA (NASDAQ: NVDA) ha sido pionera en el campo de la aceleración computacional. La invención de la GPU por parte de la compañía en 1999 desencadenó el crecimiento del mercado de los juegos para PC, redefinió los gráficos por ordenador, encendió la era de la IA moderna y está impulsando la digitalización industrial en todos los mercados. NVIDIA es ahora una compañía de computación completa con ofertas a escala de centro de datos que están reconfigurando la industria. Más información enhttps://nvidianews.nvidia.com/.
Acerca de VMware Explore
VMware Explore tiene como objetivo ser el evento de referencia del sector para todo lo relacionado con el entorno multi-cloud. VMware Explore 2023 contará con más sesiones técnicas y de soluciones lideradas por la industria que nunca, un floreciente mercado de ISVs multi-cloud y varios eventos de networking en toda la comunidad VMware. Con una visión sin precedentes de los servicios multi-cloud, desde los públicos a los privados pasando por los extremos, para todas las aplicaciones, los asistentes a VMware Explore 2023 obtendrán el conocimiento y las herramientas que necesitan para resolver los retos simplificando la complejidad multi-cloud sin compromisos. Para obtener más información sobre VMware Explore, visite: https://www.vmware.com/explore.html
Acerca de VMware
El software de VMware potencia las infraestructuras digitales más complejas del mundo. Las soluciones cloud, de modernización de aplicaciones, de networking, de seguridad y de espacio de trabajo digital de la compañía ayudan a los clientes a ofrecer cualquier aplicación, en cualquier nube y en cualquier dispositivo. Con sede en Palo Alto, California, VMware se compromete a ser una fuerza para el bien capaz de conseguir un impacto global a través de sus innovaciones.
Puedes seguir a la compañía en su canal de X @VMware_ES, en LinkedIn, en Facebook y en su blog.
Para más información:
Coonic
Ignacio González / Víctor Santander / Celia González
91 639 77 00
Shannon McPhee
NVIDIA Corporation
+1-310-920-9642
smcphee@nvidia.com
Algunas afirmaciones hechas en esta nota de prensa, incluidas (aunque no de forma exclusiva) las que se refieren a: las ventajas, el impacto, el rendimiento, las funciones y la disponibilidad de nuestros productos y tecnologías, lo que incluye NVIDIA AI Enterprise, NVIDIA NeMo, Llama 2, TensorRT, la GPU NVIDIA L40S, las DPU NVIDIA BlueField-3 y los SmartNIC NVIDIA ConnectX-7; la colaboración de NVIDIA con VMware, lo que incluye las ventajas, el impacto, las funciones y la disponibilidad de la plataforma VMware Private AI Foundation with NVIDIA; las empresas de todo el mundo se apresuran a integrar la IA generativa en sus negocios; la colaboración ampliada de NVIDIA con VMware, que ofrece a cientos de miles de clientes de los sectores financiero, sanitario y manufacturero, entre otros, el software y los sistemas informáticos que necesitan para liberar el potencial de la IA generativa utilizando aplicaciones personalizadas creadas con sus propios datos; las estimaciones de que la IA generativa podría aportar hasta 4,4 billones de dólares al año a la economía mundial. 4 billones anuales a la economía mundial; y el amplio apoyo del ecosistema para VMware Private AI Foundation con NVIDIA y terceros que apoyan la plataforma son proyecciones de futuro sujetas a riesgos e incertidumbres que podrían materializarse de forma distinta a lo esperado.
Entre los factores importantes que podrían hacer que los resultados reales difirieran materialmente se incluyen: las condiciones económicas mundiales; nuestra dependencia de terceros para fabricar, ensamblar, empaquetar y probar nuestros productos; el impacto del desarrollo tecnológico y la competencia; el desarrollo de nuevos productos y tecnologías o las mejoras de nuestros productos y tecnologías existentes; la aceptación en el mercado de nuestros productos o de los productos de nuestros socios; los defectos de diseño, fabricación o software; los cambios en las preferencias o demandas de los consumidores; los cambios de las interfaces y los estándares del sector, la pérdida inesperada de rendimiento de nuestros productos o tecnologías cuando se integren en los sistemas y otros factores publicados de forma regular por NVIDIA en informes que se hallan en poder de la comisión del mercado de valores de Estados Unidos (Securities and Exchange Commission). Las copias de los informes presentados ante la SEC se encuentran en la página web de la compañía y pueden solicitarse a NVIDIA sin coste alguno. Estas afirmaciones no son garantía de resultados futuros y tienen vigencia a fecha de hoy. Salvo que la ley disponga lo contrario, NVIDIA no tiene obligación alguna de actualizarlas para reflejar acontecimientos o circunstancias que puedan producirse en el futuro.
Muchos de los productos y funciones aquí descritos se encuentran en distintas fases y se ofrecerán cuando estén disponibles. Las afirmaciones anteriores no pretenden ser, ni deben interpretarse, como un compromiso, promesa u obligación legal, y el desarrollo, lanzamiento y calendario de cualquier característica o funcionalidad descrita para nuestros productos está sujeta a cambios y queda a la entera discreción de NVIDIA. NVIDIA no será responsable en caso de incumplimiento o retraso en la entrega de cualquiera de los productos, características o funciones aquí descritos.
© © 2023 NVIDIA Corporation. All rights reserved. NVIDIA, the NVIDIA logo, BlueField, ConnectX and NeMo are trademarks and/or registered trademarks of NVIDIA Corporation in the U.S. and other countries. VMware and Explore are registered trademarks or trademarks of VMware, Inc. or its subsidiaries in the United States and other jurisdictions. Other company and product names may be trademarks of the respective companies with which they are associated. Features, pricing, availability and specifications are subject to change without notice. This press release may contain hyperlinks to non-VMware websites that are created and maintained by third parties who are solely responsible for the content on such websites.