Tecnología

NVIDIA presenta nuevos microservicios de IA generativa para ampliar capacidades de desarrollo

Published March 18, 2024

NVIDIA, la reconocida empresa de tecnología, ha anunciado el lanzamiento de una serie de microservicios de IA generativa para desarrolladores, permitiéndoles crear y desplegar aplicaciones personalizadas utilizando la amplia base de GPUs CUDA instaladas en diferentes plataformas, desde la nube hasta centros de datos, estaciones de trabajo y PCs personales.

Un catálogo extenso y optimizado

Con este nuevo catálogo de microservicios con aceleración GPU, que lleva por nombre NVIDIA NIM, NVIDIA pretende facilitar el proceso de inferencia optimizado en una gran variedad de modelos de IA preentrenados. Los desarrolladores podrán acceder también a conjuntos de herramientas y bibliotecas bajo el paraguas de NVIDIA CUDA-X para desarrollar aplicaciones de IA más rápidamente.

Conformación de una plataforma empresarial de IA

La iniciativa de NVIDIA no solo beneficia a desarrolladores individuales, sino que ha capturado el interés de varios líderes en plataformas de aplicaciones empresariales, tales como Adobe, Cadence, CrowdStrike, SAP y ServiceNow, quienes ya están incorporando estos microservicios de IA generativa en sus ofertas.

Reducción significativa en tiempos de despliegue

Los microservicios NIM de NVIDIA destacan por su eficiencia, permitiendo a los desarrolladores pasar de semanas a tan sólo minutos en el despliegue de modelos de IA. Además, se integran con facilidad a infraestructuras existentes, ofreciendo flexibilidad y alto rendimiento.

Amplia adopción y soporte

La adopción de estos servicios no se limita a desarrolladores individuales, ya que empresas y proveedores de plataformas como Amazon Web Services, Google Kubernetes Engine y Microsoft Azure AI, también están incorporando estos microservicios en su infraestructura. Además, el soporte se extiende a través de sistemas certificados por NVIDIA y plataformas como Red Hat OpenShift y VMware.

Disponibilidad y más información

NVIDIA pone a disposición de los interesados la posibilidad de experimentar con estos microservicios de manera gratuita y para usos de producción se integran a NVIDIA AI Enterprise 5.0. Para obtener más detalles, se puede consultar la información proporcionada en la última conferencia magistral de GTC.

Sobre NVIDIA, la empresa ha sido una fuerza pionera en la computación acelerada desde 1993, impulsando mercados como el de los videojuegos y la IA moderna, y avanzando hacia la digitalización industrial con infraestructura computacional de escala de centro de datos.

NVIDIA, IA, microservicios