Des hackers issus d'un groupe de cybercriminalité de premier plan ont utilisé l'intelligence artificielle pour découvrir une faille logicielle jusqu'alors inconnue et un 'exploit' permettant de l'exploiter pour la première fois, a déclaré lundi Google (Alphabet). 

L'attaque planifiée visait un outil d'administration système open-source largement utilisé, mais elle a été bloquée avant de pouvoir être déployée dans le cadre d'un 'incident d'exploitation de masse', a précisé Google dans un rapport de son Threat Intelligence Group. 

Cet incident marque la première fois que Google identifie des attaquants utilisant l'IA pour découvrir une nouvelle vulnérabilité et tenter de l'exploiter à grande échelle. 

John Hultquist, analyste en chef du Google Threat Intelligence Group, a déclaré que ces résultats ne représentent probablement que la 'partie émergée de l'iceberg' quant à la manière dont les criminels et les hackers parrainés par des États repoussent les limites de l'innovation en matière de piratage par l'IA. 

Le rapport détaille également comment les hackers commencent à confier des pans entiers de leurs cyber-opérations à l'intelligence artificielle, l'utilisant pour traquer de manière autonome les failles logicielles et aider à la conception de logiciels malveillants.

Ce changement marque une première étape vers des cyber-opérations plus autonomes, les attaquants commençant à s'appuyer sur les systèmes d'IA non plus seulement comme outils de recherche, mais comme des composants actifs capables d'analyser des cibles, de générer du code et de prendre des décisions avec une supervision humaine limitée, ont indiqué les chercheurs.

Ces conclusions interviennent alors que les gouvernements du monde entier s'interrogent sur la régulation des nouveaux modèles d'IA puissants, susceptibles de faciliter l'identification des cibles et le lancement d'attaques exploitant des failles logicielles tant connues que récemment découvertes.

Ces résultats font écho aux récents avertissements des régulateurs financiers en Europe, qui affirment que l'involution rapide des modèles d'IA accroît la vitesse et l'ampleur des risques cybernétiques dans un contexte de tensions géopolitiques accrues. 

Les cybercriminels, tout comme les groupes de hackers liés à la Chine, à la Russie et à la Corée du Nord, expérimentent déjà l'intégration directe de l'IA dans leurs processus d'attaque, selon le rapport. Bien que ces techniques en soient encore à un stade précoce, Google a prévenu qu'elles pourraient accélérer les campagnes cybernétiques en réduisant le temps et l'expertise nécessaires pour lancer des attaques complexes.