Dynatrace a annoncé l'extension de sa plateforme d'analyse et d'automatisation afin de fournir une observabilité et une sécurité holistiques pour les grands modèles de langage (LLM) et les applications alimentées par l'IA générative. Cette amélioration de la plateforme Dynatrace® permet aux organisations du monde entier d'adopter l'IA générative en toute confiance et de manière rentable dans le cadre de leur objectif d'augmentation de l'innovation, de la productivité et des revenus. Dynatrace® AI Observability est une solution complète.

Elle couvre la pile d'IA de bout en bout, y compris l'infrastructure, comme les GPU Nvidia®, les modèles fondamentaux, comme GPT4, les caches sémantiques et les bases de données vectorielles, comme Weaviate, et les cadres d'orchestration, comme LangChain. Elle supporte également les principales plateformes de construction, d'entraînement et de livraison de modèles d'IA, y compris Microsoft® Azure OpenAI Service, Amazon® SageMaker, et Google® AI Platform. Dynatrace AI Observability s'appuie sur Davis® AI et d'autres technologies de base de la plateforme pour fournir une vue précise et complète des applications alimentées par l'IA.

En conséquence, les organisations peuvent fournir une expérience utilisateur exceptionnelle tout en identifiant automatiquement les goulots d'étranglement de performance et les causes profondes. Dynatrace AI Observability with Davis AI les aide également à se conformer aux réglementations en matière de confidentialité et de sécurité, ainsi qu'aux normes de gouvernance, en traçant avec précision les origines des résultats créés par leurs applications. En outre, elle les aide à prévoir et à contrôler les coûts en surveillant leur consommation de jetons, qui sont les unités de base que les modèles d'IA générative utilisent pour traiter les requêtes.

Dynatrace AI Observability est disponible à partir du 31 janvier 2024 pour tous les clients Dynatrace.