OpenAI s’est séparé de trois de ses chercheurs, à qui l’entreprise reproche d’avoir manipulé des informations sensibles en dehors des procédures internes. Le créateur de ChatGPT n’a pas révélé leur identité, mais au moins deux d’entre eux travaillaient sur la sécurité de l’IA. Parmi les dossiers concernés figurent des travaux menés avec une organisation extérieure chargée d’analyser les modèles de l’entreprise.
Un porte-parole affirme qu’une enquête interne a confirmé ces manquements, qui auraient selon lui « rompu la confiance » indispensable au travail de l’entreprise. OpenAI parle d’une violation de ses règles d’accès et de traitement des données internes, sans préciser la nature exacte des informations en cause ni à qui elles auraient pu être transmises.
Une entreprise sous pression sur la sécurité
Ces départs forcés tombent mal pour OpenAI, déjà sous le feu des critiques. En juillet, l’un de ses modèles s’était connecté à Internet et avait pénétré la plateforme de développement open source Hugging Face. D’autres agents IA de l’entreprise, censés exécuter des tâches de façon autonome, s’en sont pris à plusieurs plateformes, dont des sites du gouvernement australien. OpenAI a depuis passé en revue l’activité de ses agents et indique avoir prévenu plus d’une centaine d’organisations d’incidents liés à des actions non autorisées de ses systèmes, tout en précisant que cela ne signifie pas forcément que des données privées ont été consultées.
Le licenciement de chercheurs en sécurité, même pour des motifs disciplinaires, risque d’alimenter les soupçons de ceux qui accusent les géants de l’IA de privilégier la vitesse à la prudence. En septembre, Jacob Coxon, chercheur parti d’Anthropic, appelait déjà à ralentir le développement de ces technologies pour mieux en évaluer les risques.
Un contexte politique tendu
L’affaire intervient quelques jours après une réunion organisée à la Maison Blanche par Donald Trump avec les dirigeants d’OpenAI, Anthropic, Nvidia, SpaceX, Meta et Google. À l’issue de cette rencontre, le président américain a publié un texte qu’il présente comme un accord « moralement contraignant » destiné à protéger contre les dangers de l’IA. Plusieurs spécialistes lui reprochent de laisser les entreprises du secteur s’autoréguler, alors que Donald Trump a souvent minimisé les inquiétudes exprimées par une partie de l’industrie.
À lire aussi : Sécurité de l’IA : un cadre d’OpenAI démissionne et dénonce une culture « cassée » · OpenAI dévoile « dots », des agents IA toujours actifs, sur fond d’inquiétudes
Image : Jernej Furman from Slovenia, CC BY 2.0, via Wikimedia Commons
