NVIDIA y KServe facilitan la implementación de IA generativa en la empresa

La implementación de la inteligencia artificial (IA) generativa en las empresas se está simplificando gracias a NVIDIA NIM, un conjunto de microservicios de inferencia de IA generativa. Estos microservicios van a funcionar en conjunto con KServe, un software de código abierto que se encarga de automatizar la aplicación de modelos de IA a gran escala, como los que se utilizan en las aplicaciones de computación en nube.

Integración de NIM y KServe

La fusión de NVIDIA NIM con KServe garantiza que la IA generativa pueda ser desplegada con la misma facilidad que cualquier otra aplicación empresarial de gran tamaño. Además, NIM será accesible a través de plataformas de diversas empresas, incluyendo Canonical, Nutanix y Red Hat.

La integración de NIM en KServe extiende las tecnologías de NVIDIA a la comunidad de código abierto, socios del ecosistema y clientes, quienes pueden acceder al rendimiento, soporte y seguridad de la plataforma de software NVIDIA AI Enterprise simplemente con realizar una llamada API.

KServe y su papel en Kubernetes

KServe comenzó como parte de Kubeflow, una serie de herramientas de aprendizaje automático basadas en Kubernetes. Este sistema de código abierto se utiliza para desplegar y gestionar contenedores de software que contienen todos los componentes de aplicaciones distribuidas a gran escala.

KServe, que se ha convertido en su propio proyecto de código abierto, es una extensión de Kubernetes que gestiona la inferencia de IA como si fuera una aplicación en la nube. Es compatible con protocolos estándares, ofrece rendimiento optimizado y sustenta marcos de IA populares como PyTorch, Scikit-learn, TensorFlow y XGBoost, todo ello sin que los usuarios necesiten entender los detalles técnicos.

Funcionalidades avanzadas y facilidad de uso

Una característica de KServe llamada 'canary rollouts' ayuda a las empresas a desplegar cuidadosamente nuevos modelos de IA y a introducir actualizaciones de forma gradual en la producción. Además, la autoscala GPU gestiona eficientemente el uso de los modelos en función de la demanda.

Con NVIDIA NIM, una simple llamada API maneja toda la complejidad, permitiendo a los administradores de TI monitorear el desempeño y eficiencia de sus aplicaciones, ya sea en un centro de datos propio o en un servicio en la nube.

Amplia disponibilidad de NIM

Gracias a la asociación con KServe, NIM estará disponible en multitud de plataformas empresariales, consolidando una relación que permite ofrecer ayuda directa de los expertos de NVIDIA a una amplia gama de usuarios.

Empresas como Foxconn y ServiceNow ya están utilizando los microservicios de NIM. Red Hat, Nutanix y Canonical han trabajado con NVIDIA para facilitar la implementación de IA generativa, otorgando acceso a la plataforma de AI de NVIDIA y potenciando el uso de la tecnología de IA generativa en sus infraestructuras.

Compromiso de NVIDIA con la comunidad de código abierto

NVIDIA mantiene un compromiso constante con la mejora y contribución al proyecto KServe, así como otros proyectos de código abierto. Como parte de la integración de NIM, NVIDIA continuará siendo un contribuidor activo en el desarrollo de estas tecnologías.

NVIDIA, KServe, IA