Anthropic a ouvert ses portes \u00e0 des \u00e9valuateurs ext\u00e9rieurs. L’entreprise \u00e0 l’origine de Claude a accord\u00e9 \u00e0 l’organisation \u00e0 but non lucratif METR un acc\u00e8s \u00ab comparable \u00e0 celui d’un employ\u00e9 \u00bb, afin que celle-ci puisse juger les risques de ses mod\u00e8les d’intelligence artificielle. Une \u00e9quipe de METR est d\u00e9sormais install\u00e9e dans les locaux d’Anthropic, avec acc\u00e8s \u00e0 son mat\u00e9riel informatique et \u00e0 ses syst\u00e8mes internes.<\/p>\n
METR n’est pas un nouveau venu : l’organisation a d\u00e9j\u00e0 travaill\u00e9 avec plusieurs grands laboratoires, dont OpenAI, Google et Meta. Cette annonce, faite jeudi, est la premi\u00e8re application concr\u00e8te d’un engagement pris \u00e0 l’automne.<\/p>\n
En septembre, le patron d’Anthropic, Dario Amodei, avait propos\u00e9 d’int\u00e9grer des auditeurs externes au sein des principaux laboratoires d’IA. Fait rare, ses rivaux Sam Altman (OpenAI) et Elon Musk (SpaceX) s’\u00e9taient rang\u00e9s derri\u00e8re cette id\u00e9e. OpenAI n’a en revanche pas encore d\u00e9taill\u00e9 comment elle comptait accueillir de tels \u00e9valuateurs.<\/p>\n
Pour justifier cette d\u00e9marche, Anthropic explique que ses mod\u00e8les, devenus plus puissants, exigent des garde-fous plus solides et des \u00e9valuations de risques plus exigeantes. \u00ab Nous voulons rendre des comptes publiquement, mais nous ne pouvons pas partager publiquement toutes les informations li\u00e9es \u00e0 notre travail sur la s\u00e9curit\u00e9 \u00bb, a d\u00e9clar\u00e9 l’entreprise. Rendre ces donn\u00e9es publiques pourrait, selon elle, profiter \u00e0 des acteurs malveillants ou \u00e0 des concurrents.<\/p>\n
Le fonctionnement envisag\u00e9 ressemble \u00e0 celui de la supervision bancaire, o\u00f9 les r\u00e9gulateurs placent des inspecteurs r\u00e9sidents au sein des plus grands \u00e9tablissements.<\/p>\n
Le dispositif ne fait pas l’unanimit\u00e9. Ses d\u00e9tracteurs redoutent des conflits d’int\u00e9r\u00eats, en citant les d\u00e9rives observ\u00e9es dans le secteur de la comptabilit\u00e9, o\u00f9 les cabinets d’audit sont pay\u00e9s par les entreprises qu’ils contr\u00f4lent. Pour eux, seule une r\u00e9glementation publique plus ferme peut offrir de r\u00e9elles garanties.<\/p>\n
Pour le lecteur europ\u00e9en, l’enjeu est concret : \u00e0 mesure que ces syst\u00e8mes s’invitent dans la cybers\u00e9curit\u00e9, l’\u00e9conomie et les services du quotidien, la question de savoir qui v\u00e9rifie r\u00e9ellement leurs risques, et avec quels pouvoirs, devient centrale.<\/p>\n
<\/p>\n