Cerence Inc. a présenté Cerence xUI, sa plateforme d'assistant d'IA agentique qui fonctionne à la périphérie et dans le nuage pour faire progresser la prochaine génération d'expériences utilisateur dans les véhicules, alimentées par le LLM. Soulignant sa profonde expertise à l'intersection de l'innovation en matière d'IA et des exigences uniques de l'UX automobile, Cerence AI a déjà signé plusieurs accords de partenariat stratégique à long terme ainsi que des programmes de validation de concept avec des constructeurs automobiles mondiaux pour déployer Cerence xUI comme base de leurs futures expériences à l'intérieur de l'habitacle. L'évolution rapide des technologies et l'engagement croissant des utilisateurs envers les plates-formes d'assistant alimentées par LLM incitent les constructeurs automobiles à examiner comment ils peuvent intégrer rapidement et de manière rentable des fonctions d'IA étendues dans leurs voitures.
Cerence xUI répond à ce besoin en proposant une plateforme d'assistant vocal spécifique à l'automobile qui s'appuie sur la famille CaLLM ? de LLM et SLM dans le cloud et embarqués, développés et optimisés en partenariat avec NVIDIA et Microsoft ; des LLM tiers ; des sources de données en temps réel ; et des données contextuelles de la voiture pour créer une interface conversationnelle engageante capable d'accomplir des tâches, de répondre à des questions et de divertir les utilisateurs. La plateforme offre également une personnalisation accrue, en mémorisant les préférences individuelles et en adaptant ses réponses et ses suggestions proactives en fonction des habitudes de l'utilisateur et des informations contextuelles.
L'architecture hybride de Cerence xUI fonctionne aussi bien dans le cloud qu'à bord du véhicule sur différentes solutions industrielles, optimisées d'abord sur NVIDIA DRIVE AGX Orin. Cela permet aux constructeurs automobiles de déployer la plate-forme de la façon qui leur convient le mieux : en tant qu'ajout basé sur le cloud au-dessus des systèmes d'infodivertissement embarqués existants, en tant que complément des systèmes hybrides existants déjà sur la route, ou en tant que base d'un système cloud et embarqué totalement intégré. Les équipementiers peuvent ainsi facilement tirer parti de l'expertise unique de Cerence AI en matière d'intégration de systèmes automobiles et d'expérience utilisateur basée sur l'IA pour fournir des fonctions et des capacités améliorées et basées sur le LLM aux véhicules actuels et futurs, y compris : Conversation Threads : Des interactions rationalisées et cohérentes qui peuvent couvrir des requêtes complexes en plusieurs étapes, à la fois au sein d'une seule application et à travers différentes applications cloud et embarquées - le tout en utilisant un langage naturel et conversationnel ; UX conversationnelle adaptée à l'environnement de la voiture : Expérience d'interaction transparente, intuitive et attrayante - concise et adaptée à l'utilisation en voiture, minimisant la charge cognitive du conducteur et des passagers grâce à une technologie propriétaire d'interaction multi-utilisateurs en parallèle ; Connaissances générales et spécifiques à un domaine : Connaissances complètes dans divers domaines tels que les voyages, la musique, les sports et les actualités, exploitant les partenaires fournisseurs de contenu et les sources de données en temps réel pour permettre aux équipementiers de proposer des flux d'informations statiques et dynamiques aux utilisateurs.
La famille de modèles de langage CaLLM, qui constitue le fondement de Cerence xUI, est basée sur des modèles de base open-source et affinée sur l'ensemble de données automobiles de Cerence AI. En s'appuyant sur NVIDIA AI Enterprise, plate-forme logicielle de bout en bout native dans le cloud et optimisée pour les performances d'inférence, notamment NVIDIA TensorRT-LLM et NVIDIA NeMo, Cerence AI a optimisé CaLLM pour qu'il serve d'orchestrateur central facilitant les expériences enrichies du conducteur en intégrant à la fois la périphérie et le cloud. En outre, CaLLM Edge propose une gamme de modèles, notamment la famille Llama de Meta et la famille Phi de Microsoft, qui sont affinés avec les vastes ensembles de données automobiles de Cerence AI afin de fournir une IA spécialisée pour les cas d'utilisation de l'automobile.
En conséquence, la famille CaLLM la famille CaLLM de modèles de langage est destinée à offrir des performances avancées, une latence réduite, une confidentialité et une sécurité accrues, et une protection robuste contre les interactions malveillantes ou indésirables via un garde-fou intelligent - ainsi qu'une efficacité en termes de coûts pour les constructeurs automobiles.