Cloudera a annoncé l'extension de sa collaboration avec NVIDIA. Cloudera Powered by NVIDIA intégrera les microservices NVIDIA NIM de qualité professionnelle, qui font partie de la plate-forme logicielle NVIDIA AI Enterprise, dans Cloudera Machine Learning, un service Cloudera Data Platform pour les flux de travail d'IA/ML, afin de fournir des flux de travail d'IA générative de bout en bout, rapides, sécurisés et simplifiés en production. Les données d'entreprise, associées à une plateforme complète optimisée pour les grands modèles de langage (LLM), jouent un rôle essentiel dans l'avancement des applications d'IA générative d'une organisation, du pilote à la production.

Les microservices NVIDIA NIM et NeMo Retriever permettent aux développeurs de relier les modèles d'IA à leurs données d'entreprise - y compris le texte, les images et les visualisations, telles que les diagrammes à barres, les diagrammes linéaires et les diagrammes circulaires - afin de générer des réponses très précises et pertinentes en fonction du contexte. Les développeurs qui utilisent ces microservices peuvent déployer des applications via NVIDIA AI Enterprise, qui fournit des runtimes optimisés pour construire, personnaliser et déployer des LLM d'entreprise. En s'appuyant sur les microservices de NVIDIA, Cloudera Machine Learning permettra aux clients de libérer la valeur de leurs données d'entreprise sous la gestion de Cloudera en apportant des workflows d'IA haute performance, des logiciels de plate-forme d'IA et des calculs accélérés aux données, où qu'elles se trouvent. Cloudera introduira plusieurs intégrations avec les microservices de NVIDIA.

Cloudera Machine learning intégrera le service de modèle et d'application optimisé par les microservices NVIDIA pour augmenter les performances d'inférence de modèle dans toutes les charges de travail. Avec cette nouvelle fonctionnalité de service de modèles d'IA, les clients peuvent obtenir une tolérance aux pannes, un service à faible latence et une mise à l'échelle automatique pour les modèles déployés n'importe où - à partir de clouds publics et privés. De plus, Cloudera Machine learning proposera des micro-services NVIDIA NeMo Retriever intégrés pour simplifier la connexion des LLM personnalisés aux données de l'entreprise.

Cette capacité permettra aux utilisateurs de créer des applications basées sur la génération RAG (retrieval-augmented generation) pour une utilisation en production. Cloudera a déjà travaillé avec NVIDIA pour exploiter le traitement des données optimisé par le GPU en intégrant l'accélérateur NVIDIA RAPIDS pour Apache Spark dans la Cloudera Data Platform. Désormais, avec l'ajout prévu de microservices NVIDIA et l'intégration avec NVIDIA AI Enterprise, Cloudera Data Platform fournira de façon unique des pipelines d'IA hybrides rationalisés de bout en bout.