Selon un rapport publié mercredi, des pirates informatiques russes, chinois et iraniens soutenus par des États ont utilisé des outils de la société OpenAI, soutenue par Microsoft, pour perfectionner leurs compétences et tromper leurs cibles.

Microsoft a indiqué dans son rapport avoir suivi des groupes de pirates informatiques affiliés aux services de renseignement militaire russes, aux gardiens de la révolution iraniens, ainsi qu'aux gouvernements chinois et nord-coréen, alors qu'ils tentaient de perfectionner leurs campagnes de piratage à l'aide de grands modèles de langage. Ces programmes informatiques, souvent appelés intelligence artificielle, s'appuient sur des quantités massives de texte pour générer des réponses à consonance humaine.

L'entreprise a annoncé cette découverte alors qu'elle mettait en place une interdiction générale pour les groupes de piratage soutenus par des États qui utilisent ses produits d'intelligence artificielle.

"Indépendamment de la question de savoir s'il y a eu violation de la loi ou des conditions de service, nous ne voulons tout simplement pas que les acteurs que nous avons identifiés - que nous suivons et savons être des acteurs de menaces de toutes sortes - aient accès à cette technologie", a déclaré Tom Burt, vice-président de Microsoft chargé de la sécurité des clients, lors d'une interview accordée à Reuters avant la publication du rapport.

Les responsables diplomatiques de la Russie, de la Corée du Nord et de l'Iran n'ont pas immédiatement répondu aux messages demandant des commentaires sur ces allégations.

Le porte-parole de l'ambassade de Chine aux États-Unis, Liu Pengyu, a déclaré que son pays s'opposait aux "calomnies et accusations sans fondement contre la Chine" et plaidait pour un déploiement "sûr, fiable et contrôlable" de la technologie de l'IA afin "d'améliorer le bien-être commun de toute l'humanité".

L'allégation selon laquelle des pirates informatiques soutenus par l'État ont été surpris en train d'utiliser des outils d'IA pour renforcer leurs capacités d'espionnage devrait renforcer les inquiétudes concernant la prolifération rapide de cette technologie et les risques d'abus qu'elle présente. Depuis l'année dernière, de hauts responsables occidentaux de la cybersécurité mettent en garde contre l'utilisation abusive de ces outils par des acteurs malhonnêtes, même si, jusqu'à présent, les détails étaient peu nombreux.

"Il s'agit de l'un des premiers cas, sinon le premier, où une entreprise d'IA s'exprime publiquement sur la manière dont les acteurs menaçant la cybersécurité utilisent les technologies d'IA", a déclaré Bob Rotsted, qui dirige le service de renseignement sur les menaces de cybersécurité chez OpenAI.

OpenAI et Microsoft ont qualifié l'utilisation de leurs outils d'IA par les pirates de "précoce" et de "progressive". Burt a déclaré que ni l'un ni l'autre n'avait vu de cyberespions faire des percées.

"Nous les avons vraiment vus utiliser cette technologie comme n'importe quel autre utilisateur", a-t-il déclaré.

Le rapport décrit différemment les groupes de pirates qui utilisent les grands modèles de langage.

Des pirates présumés travaillant pour le compte de l'agence d'espionnage militaire russe, plus connue sous le nom de GRU, ont utilisé les modèles pour rechercher "diverses technologies de satellite et de radar pouvant se rapporter à des opérations militaires conventionnelles en Ukraine", a déclaré Microsoft.

Selon Microsoft, des pirates nord-coréens ont utilisé les modèles pour générer du contenu "susceptible d'être utilisé dans des campagnes de spear-phishing" contre des experts régionaux. Les pirates iraniens se sont également appuyés sur les modèles pour rédiger des courriels plus convaincants, a déclaré Microsoft, les utilisant à un moment donné pour rédiger un message visant à attirer d'"éminentes féministes" vers un site web piégé.

Le géant du logiciel a déclaré que des pirates soutenus par l'État chinois expérimentaient également de grands modèles de langage, par exemple pour poser des questions sur des agences de renseignement rivales, des problèmes de cybersécurité et des "personnes notables".

Ni Burt ni Rotsted n'ont voulu s'exprimer sur le volume d'activité ou le nombre de comptes suspendus. Burt a défendu l'interdiction de tolérance zéro à l'égard des groupes de pirates informatiques - qui ne s'étend pas aux produits de Microsoft tels que son moteur de recherche Bing - en soulignant la nouveauté de l'IA et les inquiétudes suscitées par son déploiement.

"Cette technologie est à la fois nouvelle et incroyablement puissante", a-t-il déclaré. (Reportage de Raphael Satter ; reportages complémentaires de Christopher Bing à Washington et de Michelle Nichols aux Nations unies ;)