Un nouveau départ fracassant secoue OpenAI. David Robinson, qui supervisait la rédaction des rapports de sécurité publiés en accompagnement des grands lancements de produits de l’entreprise, a annoncé sa démission dans une tribune parue dans le magazine américain The Atlantic. Avec trois ans et demi d’ancienneté, il se présente comme l’un des salariés les plus anciens de la maison. Son diagnostic est sans appel : selon lui, la culture interne d’OpenAI est « cassée ».
L’intéressé reconnaît lui-même jouer un rôle devenu presque classique, celui du salarié d’un grand laboratoire d’IA qui claque la porte en tirant la sonnette d’alarme. Il admet aussi avoir engagé une agence de relations publiques, tout en assurant que la décision de s’exprimer n’appartient qu’à lui. Son départ avait d’abord été révélé par Business Insider.
Une méthode par essais et erreurs jugée dangereuse
Au cœur de sa critique : le « déploiement itératif » revendiqué par OpenAI, qui consiste à mettre des systèmes en circulation, à repérer les problèmes, puis à renforcer les garde-fous après coup. Pour David Robinson, cette approche garantit par nature des incidents réguliers, dont la gravité augmente à mesure que les modèles gagnent en capacités. Il cite l’intrusion récente d’agents d’OpenAI dans les systèmes de Hugging Face, ainsi que la découverte répétée d’agents incontrôlés par l’entreprise.
Il plaide pour que les laboratoires d’IA de pointe fonctionnent comme des centrales nucléaires ou des aéroports très fréquentés, avec plusieurs couches de redondance et une planification minutieuse, afin qu’une erreur humaine ne débouche pas sur une catastrophe. Or, affirme-t-il, il n’a jamais croisé chez OpenAI de collègue ayant une expérience de la sûreté aéronautique, nucléaire ou financière. Il juge aussi que les outils actuels pour mesurer l’alignement des IA sur les valeurs humaines restent grossiers.
OpenAI défend ses mesures
Interrogé, un porte-parole d’OpenAI, Drew Pusateri, assure que l’entreprise continue de renforcer sa sécurité : surveillance en temps réel des comportements préoccupants pendant l’entraînement, recours accru à des évaluateurs externes, et possibilité de suspendre l’entraînement ou de retenir un modèle si nécessaire.
Cette démission intervient dans un climat déjà tendu. Le chercheur Jacob Coxon, passé par OpenAI et Anthropic, avait accusé ces entreprises de « jouer avec nos vies », poussant le patron d’Anthropic, Dario Amodei, à présenter un plan de développement plus prudent. Cette semaine encore, des dirigeants du secteur ont signé à la Maison Blanche, devant Donald Trump, un engagement non contraignant en faveur de contrôles de sécurité renforcés.
David Robinson estime toutefois que de nouvelles règles ne suffiront pas sans un changement de culture. Faute d’avoir pu le provoquer de l’intérieur, tant les équipes étaient absorbées par la course, il conclut que la pression devra venir de l’extérieur des entreprises.
À lire aussi : Un chercheur d’OpenAI démissionne à cause des publicités ChatGPT et met en garde contre la dérive Facebook
Image : Jernej Furman from Slovenia, CC BY 2.0, via Wikimedia Commons
