L'implication d'Andy Jassy apporte un éclairage sur la décision exceptionnelle prise vendredi par Anthropic de suspendre ses derniers modèles à l'échelle mondiale, en réponse aux injonctions de sécurité nationale de l'administration Trump.
La start-up d'IA basée à San Francisco, qui a déposé confidentiellement un dossier en vue d'une introduction en bourse (IPO) aux États-Unis, avait précédemment mis en garde contre les capacités de piratage de son modèle Mythos et en avait limité la diffusion. Cependant, Anthropic a lancé en début de semaine une version publique, baptisée Fable, intégrant ce qu'elle décrivait comme des garde-fous en matière de cybersécurité.
Cette brève mise à disposition a pris fin vendredi. Dans un article de blog, Anthropic a déclaré que le gouvernement américain l'avait informée de l'existence d'une méthode permettant de contourner, ou de « jailbreaker », une protection destinée à empêcher l'utilisation du modèle pour identifier des failles de cybersécurité.
Le contournement n'a révélé que des failles de sécurité « mineures », que d'autres modèles disponibles publiquement peuvent également détecter, a précisé Anthropic dans son communiqué.
L'administration Trump a ordonné à Anthropic d'interdire à tout ressortissant étranger, qu'il se trouve ou non aux États-Unis, d'utiliser ses deux derniers modèles, Fable 5 et Mythos 5, a indiqué l'entreprise. En réaction, Anthropic a annoncé qu'elle désactiverait l'accès à ces modèles dans le monde entier.
Amazon n'a pas confirmé avoir échangé avec des représentants du gouvernement au sujet des modèles d'Anthropic.
« En tant que fournisseur de services cloud de premier plan desservant un grand nombre de clients des secteurs privé et public, il n'est pas rare que les gouvernements sollicitent nos conseils sur les risques de sécurité potentiels », a déclaré un porte-parole d'Amazon à Reuters. « Le cas échéant, nous ne divulguons pas les détails de ces discussions. »
Le média technologique The Information avait rapporté plus tôt samedi les préoccupations d'Andy Jassy. Citant un responsable américain, The Information a ultérieurement indiqué qu'il était peu probable que l'administration contraigne d'autres entreprises d'IA à respecter des restrictions similaires à celles imposées à Anthropic.
Reuters n'a pas pu vérifier immédiatement les intentions de l'administration Trump concernant la régulation d'autres sociétés.
Les restrictions du gouvernement américain ont pris la forme d'un contrôle des exportations, a précisé Anthropic. Le Bureau de l'industrie et de la sécurité (BIS) du département du Commerce des États-Unis, qui supervise ces contrôles, n'a pas répondu immédiatement à une demande de commentaire.
Certains experts favorables au contrôle des exportations sur les modèles d'IA avancés ont jugé l'action de l'administration Trump déroutante, car elle affecte aussi bien les nations alliées que les adversaires.
« Cela n'a pas été mûrement réfléchi », a déclaré Jimmy Goodrich, chercheur principal à l'Institute for Global Conflict and Cooperation de l'Université de Californie. « Cela interdit même aux Canadiens et aux Britanniques employés chez Anthropic de mener des activités de recherche et développement. »
Cette injonction intervient alors qu'un précédent différend entre les responsables de l'administration Trump et Anthropic semblait s'apaiser au sein de certaines branches du gouvernement américain.
