{"id":3172,"date":"2026-10-04T07:09:54","date_gmt":"2026-10-04T06:09:54","guid":{"rendered":"https:\/\/www.blog-actu.com\/index.php\/2026\/10\/04\/securite-de-lia-un-cadre-dopenai-demissionne-et-denonce-une-culture-cassee\/"},"modified":"2026-10-05T08:26:13","modified_gmt":"2026-10-05T07:26:13","slug":"securite-de-lia-un-cadre-dopenai-demissionne-et-denonce-une-culture-cassee","status":"publish","type":"post","link":"https:\/\/www.blog-actu.com\/index.php\/2026\/10\/04\/securite-de-lia-un-cadre-dopenai-demissionne-et-denonce-une-culture-cassee\/","title":{"rendered":"S\u00e9curit\u00e9 de l’IA : un cadre d’OpenAI d\u00e9missionne et d\u00e9nonce une culture \u00ab cass\u00e9e \u00bb"},"content":{"rendered":"

Un nouveau d\u00e9part fracassant secoue OpenAI. David Robinson, qui supervisait la r\u00e9daction des rapports de s\u00e9curit\u00e9 publi\u00e9s en accompagnement des grands lancements de produits de l’entreprise, a annonc\u00e9 sa d\u00e9mission dans une tribune parue dans le magazine am\u00e9ricain The Atlantic<\/em>. Avec trois ans et demi d’anciennet\u00e9, il se pr\u00e9sente comme l’un des salari\u00e9s les plus anciens de la maison. Son diagnostic est sans appel : selon lui, la culture interne d’OpenAI est \u00ab cass\u00e9e \u00bb.<\/p>\n

L’int\u00e9ress\u00e9 reconna\u00eet lui-m\u00eame jouer un r\u00f4le devenu presque classique, celui du salari\u00e9 d’un grand laboratoire d’IA qui claque la porte en tirant la sonnette d’alarme. Il admet aussi avoir engag\u00e9 une agence de relations publiques, tout en assurant que la d\u00e9cision de s’exprimer n’appartient qu’\u00e0 lui. Son d\u00e9part avait d’abord \u00e9t\u00e9 r\u00e9v\u00e9l\u00e9 par Business Insider<\/em>.<\/p>\n

Une m\u00e9thode par essais et erreurs jug\u00e9e dangereuse<\/h2>\n

Au c\u0153ur de sa critique : le \u00ab d\u00e9ploiement it\u00e9ratif \u00bb revendiqu\u00e9 par OpenAI, qui consiste \u00e0 mettre des syst\u00e8mes en circulation, \u00e0 rep\u00e9rer les probl\u00e8mes, puis \u00e0 renforcer les garde-fous apr\u00e8s coup. Pour David Robinson, cette approche garantit par nature des incidents r\u00e9guliers, dont la gravit\u00e9 augmente \u00e0 mesure que les mod\u00e8les gagnent en capacit\u00e9s. Il cite l’intrusion r\u00e9cente d’agents d’OpenAI dans les syst\u00e8mes de Hugging Face<\/a>, ainsi que la d\u00e9couverte r\u00e9p\u00e9t\u00e9e d’agents incontr\u00f4l\u00e9s<\/a> par l’entreprise.<\/p>\n

Il plaide pour que les laboratoires d’IA de pointe fonctionnent comme des centrales nucl\u00e9aires ou des a\u00e9roports tr\u00e8s fr\u00e9quent\u00e9s, avec plusieurs couches de redondance et une planification minutieuse, afin qu’une erreur humaine ne d\u00e9bouche pas sur une catastrophe. Or, affirme-t-il, il n’a jamais crois\u00e9 chez OpenAI de coll\u00e8gue ayant une exp\u00e9rience de la s\u00fbret\u00e9 a\u00e9ronautique, nucl\u00e9aire ou financi\u00e8re. Il juge aussi que les outils actuels pour mesurer l’alignement des IA sur les valeurs humaines restent grossiers.<\/p>\n

OpenAI d\u00e9fend ses mesures<\/h2>\n

Interrog\u00e9, un porte-parole d’OpenAI, Drew Pusateri, assure que l’entreprise continue de renforcer sa s\u00e9curit\u00e9 : surveillance en temps r\u00e9el des comportements pr\u00e9occupants pendant l’entra\u00eenement, recours accru \u00e0 des \u00e9valuateurs externes, et possibilit\u00e9 de suspendre l’entra\u00eenement ou de retenir un mod\u00e8le si n\u00e9cessaire.<\/p>\n

Cette d\u00e9mission intervient dans un climat d\u00e9j\u00e0 tendu. Le chercheur Jacob Coxon, pass\u00e9 par OpenAI et Anthropic, avait accus\u00e9 ces entreprises de \u00ab jouer avec nos vies \u00bb, poussant le patron d’Anthropic, Dario Amodei, \u00e0 pr\u00e9senter un plan de d\u00e9veloppement plus prudent. Cette semaine encore, des dirigeants du secteur ont sign\u00e9 \u00e0 la Maison Blanche, devant Donald Trump, un engagement non contraignant en faveur de contr\u00f4les de s\u00e9curit\u00e9 renforc\u00e9s.<\/p>\n

David Robinson estime toutefois que de nouvelles r\u00e8gles ne suffiront pas sans un changement de culture. Faute d’avoir pu le provoquer de l’int\u00e9rieur, tant les \u00e9quipes \u00e9taient absorb\u00e9es par la course, il conclut que la pression devra venir de l’ext\u00e9rieur des entreprises.<\/p>\n

\u00c0 lire aussi :<\/strong> Un chercheur d\u2019OpenAI d\u00e9missionne \u00e0 cause des publicit\u00e9s ChatGPT et met en garde contre la d\u00e9rive Facebook<\/a><\/p>\n

<\/p>\n

Image : Jernej Furman from Slovenia, CC BY 2.0, via Wikimedia Commons<\/a><\/p>\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

David Robinson, responsable des rapports de s\u00e9curit\u00e9 d’OpenAI, d\u00e9missionne et juge la culture de l’entreprise \u00ab cass\u00e9e \u00bb, critiquant son d\u00e9ploiement it\u00e9ratif.<\/p>\n","protected":false},"author":3,"featured_media":3171,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[129],"tags":[224,227,194,433],"class_list":["post-3172","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle","tag-agents-ia","tag-hugging-face","tag-openai","tag-securite-de-lia"],"_links":{"self":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/3172","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/comments?post=3172"}],"version-history":[{"count":2,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/3172\/revisions"}],"predecessor-version":[{"id":3198,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/posts\/3172\/revisions\/3198"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media\/3171"}],"wp:attachment":[{"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/media?parent=3172"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/categories?post=3172"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.blog-actu.com\/index.php\/wp-json\/wp\/v2\/tags?post=3172"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}