Le nouveau modèle, appelé MAI-1 en interne, est supervisé par Mustafa Suleyman, cofondateur de Google DeepMind et ancien PDG de la startup d'IA Inflection, qui a été récemment embauché, a indiqué le rapport, citant deux employés de Microsoft ayant connaissance de l'initiative.
L'objectif exact du modèle n'a pas encore été déterminé et dépendra de ses performances. Microsoft pourrait présenter le nouveau modèle en avant-première lors de sa conférence Build pour les développeurs à la fin du mois, selon le rapport.
Contacté par Reuters, Microsoft s'est refusé à tout commentaire.
MAI-1 sera "beaucoup plus grand" que les modèles open source plus petits que Microsoft a formés précédemment, ce qui signifie qu'il sera plus cher, selon le rapport.
Le mois dernier, Microsoft a lancé un modèle d'intelligence artificielle plus petit, appelé Phi-3-mini, dans le but d'attirer une clientèle plus large avec des options rentables.
La société a investi des milliards de dollars dans OpenAI et a déployé la technologie du fabricant de ChatGPT dans sa suite de logiciels de productivité, ce qui lui a permis de prendre une longueur d'avance dans la course à l'IA générative.
Selon le rapport, Microsoft a mis de côté de grandes grappes de serveurs équipés d'unités de traitement graphique de Nvidia ainsi que de grandes quantités de données pour améliorer le modèle.
MAI-1 aura environ 500 milliards de paramètres, selon le rapport, tandis que GPT-4 d'OpenAI aurait un trillion de paramètres et Phi-3 mini 3,8 milliards de paramètres.
En mars, Microsoft a nommé Suleyman à la tête de sa nouvelle unité d'IA grand public et a embauché plusieurs employés d'Inflection.
Le nouveau modèle n'est pas repris d'Inflection, bien qu'il puisse s'appuyer sur les données d'entraînement de la startup, ajoute le rapport.
