L'administration Trump devrait examiner les modèles d'intelligence artificielle de pointe afin de déceler d'éventuelles menaces pour la sécurité avant leur mise sur le marché, et priver de contrats publics lucratifs les sociétés dont les tests ne seraient pas concluants, a déclaré lundi un groupe de défense des intérêts aux responsables américains. La Maison Blanche est aux prises avec les implications de Mythos, le modèle d'Anthropic, qui pourrait faciliter et accélérer l'exécution de cyberattaques complexes, posant ainsi des risques pour la sécurité nationale.

L'organisation Americans for Responsible Innovation a pressé l'administration Trump de développer des méthodes d'audit pour les futurs modèles 'frontières' des grands développeurs, ciblant particulièrement leurs capacités en matière de cyberattaques et de développement d'armes.

Les entreprises devraient impérativement réussir cet examen pour prétendre aux marchés publics, a précisé le groupe dans une lettre adressée aux membres de l'administration. Le U.S. Center for AI Standards and Innovation (CAISI) examine déjà certains modèles d'IA via des accords volontaires avec OpenAI, Anthropic et, plus récemment, Google, Microsoft et xAI.

Le CAISI devrait piloter l'élaboration d'exigences obligatoires, et le Congrès devrait créer un bureau d'application permanent au sein du Département du Commerce des États-Unis pour veiller au respect de ces règles, a ajouté le groupe.

Les exigences proposées s'appliqueraient aux entreprises dépensant au moins 100 millions de dollars par an en puissance de calcul pour l'entraînement de modèles de pointe, ou générant un chiffre d'affaires annuel d'au moins 500 millions de dollars via des produits et services d'IA. La Californie a instauré l'an dernier un seuil similaire pour ses obligations de reporting en matière de sécurité. (Reportage de Jody Godoy à New York, rédaction par Rod Nickel)