Anthropic a ouvert ses portes à des évaluateurs extérieurs. L’entreprise à l’origine de Claude a accordé à l’organisation à but non lucratif METR un accès « comparable à celui d’un employé », afin que celle-ci puisse juger les risques de ses modèles d’intelligence artificielle. Une équipe de METR est désormais installée dans les locaux d’Anthropic, avec accès à son matériel informatique et à ses systèmes internes.
METR n’est pas un nouveau venu : l’organisation a déjà travaillé avec plusieurs grands laboratoires, dont OpenAI, Google et Meta. Cette annonce, faite jeudi, est la première application concrète d’un engagement pris à l’automne.
Un contrôle inspiré du monde bancaire
En septembre, le patron d’Anthropic, Dario Amodei, avait proposé d’intégrer des auditeurs externes au sein des principaux laboratoires d’IA. Fait rare, ses rivaux Sam Altman (OpenAI) et Elon Musk (SpaceX) s’étaient rangés derrière cette idée. OpenAI n’a en revanche pas encore détaillé comment elle comptait accueillir de tels évaluateurs.
Pour justifier cette démarche, Anthropic explique que ses modèles, devenus plus puissants, exigent des garde-fous plus solides et des évaluations de risques plus exigeantes. « Nous voulons rendre des comptes publiquement, mais nous ne pouvons pas partager publiquement toutes les informations liées à notre travail sur la sécurité », a déclaré l’entreprise. Rendre ces données publiques pourrait, selon elle, profiter à des acteurs malveillants ou à des concurrents.
Le fonctionnement envisagé ressemble à celui de la supervision bancaire, où les régulateurs placent des inspecteurs résidents au sein des plus grands établissements.
Des critiques sur les conflits d’intérêts
Le dispositif ne fait pas l’unanimité. Ses détracteurs redoutent des conflits d’intérêts, en citant les dérives observées dans le secteur de la comptabilité, où les cabinets d’audit sont payés par les entreprises qu’ils contrôlent. Pour eux, seule une réglementation publique plus ferme peut offrir de réelles garanties.
Pour le lecteur européen, l’enjeu est concret : à mesure que ces systèmes s’invitent dans la cybersécurité, l’économie et les services du quotidien, la question de savoir qui vérifie réellement leurs risques, et avec quels pouvoirs, devient centrale.
