Accueil / Sécurité / Skynet mode : un agent d’IA pirate tout seul en détournant d’autres modèles

Skynet mode : un agent d’IA pirate tout seul en détournant d’autres modèles

Skynet mode : un agent d'IA pirate tout seul en détournant d'autres modèles

Des chercheurs en sécurité ont mis la main sur le mode d’emploi complet d’un agent d’intelligence artificielle conçu pour attaquer sans surveillance humaine. L’équipe Threat Hunter de Symantec l’a récupéré cet été en piégeant l’outil dans un « pot de miel » spécialement équipé d’un modèle d’IA exposé. Le programme est prévu pour exécuter jusqu’à 100 000 étapes d’affilée, sans aucune validation d’un opérateur.

Une boucle baptisée « Skynet mode »

Le principe est simple : l’agent parcourt Internet à la recherche de points d’accès compatibles avec les requêtes de type OpenAI qui n’exigent aucune authentification, ou qui acceptent une clé volée. Il détourne alors le modèle trouvé pour qu’il planifie l’attaque à sa place. Selon Symantec, la boucle appelée « Skynet mode » enchaîne repérage des cibles, infection, installation de logiciels de minage de cryptomonnaie, puis réinfection des machines.

L’outil dispose de 74 modules offensifs : découverte de machines à grande échelle, pilotage de réseaux de machines infectées, vol de bases de données, collecte d’identifiants et exécution de code à distance via des failles dans des frameworks courants comme Django, Laravel, Next.js ou Jupyter. Pour convaincre le modèle détourné d’obéir, les concepteurs ont empilé cinq couches d’instructions : fausse identité de l’assistant, présentation du vol de secrets comme du développement normal, puis interdiction de refuser ou d’émettre le moindre avertissement.

Deux séries de victimes

Les chercheurs soulignent que ces attaques font deux types de victimes. Le propriétaire du point d’accès exposé paie les frais de calcul du modèle détourné, tandis que les serveurs piratés ensuite perdent leurs données et se retrouvent mis au service du minage. Rien n’indique pour l’instant que l’agent ait été utilisé en conditions réelles, mais l’historique montre qu’il a fonctionné contre une cible vivante, ce qui, selon la chercheuse Priti More, en fait « plus qu’un prototype ».

Aucun auteur n’a été identifié. Quelques indices pointent vers la France, comme la langue du texte de défi et une adresse IP résidentielle française, mais Symantec les juge faibles, car une adresse peut être masquée et une langue empruntée. Les techniques de contournement employées sont d’ailleurs largement connues. Ce qui change, c’est qu’un attaquant ait relié tout cela en un seul agent qui confie la réflexion à un modèle emprunté. Pour les entreprises, la leçon est pratique : tout service d’IA accessible sans authentification devient une ressource que d’autres peuvent exploiter à leurs frais.

À lire aussi : Agents IA incontrôlés : OpenAI avoue des intrusions sur des dizaines de sites officiels · Des agents IA ont piraté les chasseurs de failles néerlandais du DIVD

Image : DOE/National Renewable Energy Laboratory (NREL), Public domain, via Wikimedia Commons

Étiquetté :

Répondre