Le patron de Microsoft, Satya Nadella, a publi\u00e9 samedi sur X un long message consacr\u00e9 \u00e0 la s\u00e9curit\u00e9 de l’intelligence artificielle. Selon lui, il est temps de \u00ab prendre du recul et d’\u00e9valuer l’architecture de confiance \u00bb de ces technologies, alors que les incidents o\u00f9 des entreprises semblent perdre le contr\u00f4le de leurs mod\u00e8les se multiplient.<\/p>\n
Le dirigeant refuse que la \u00ab super intelligence \u00bb, terme privil\u00e9gi\u00e9 par l’administration Trump, soit vue comme un empilement de bo\u00eetes noires dont on se contenterait d’accepter ou de rejeter les r\u00e9ponses et les actions. Il propose d’abord de s\u00e9parer le mod\u00e8le du dispositif qui orchestre son travail, et de placer les contr\u00f4les et les garde-fous en dehors du mod\u00e8le lui-m\u00eame.<\/p>\n
Il demande aussi que chaque action significative d’un mod\u00e8le soit consign\u00e9e sous forme de preuves lisibles par un humain et impossibles \u00e0 falsifier. Enfin, une personne autoris\u00e9e devrait toujours pouvoir mettre un mod\u00e8le en pause, voire l’arr\u00eater en pleine t\u00e2che.<\/p>\n
Sa formule la plus marquante : il faut, dit-il, \u00ab supposer qu’un mod\u00e8le est compromis et le contenir d\u00e8s le d\u00e9part \u00bb. Il compare ce m\u00e9canisme \u00e0 un frein d’urgence, un dispositif que l’on esp\u00e8re ne jamais utiliser mais dont l’absence serait inacceptable.<\/p>\n
Cette prise de parole intervient apr\u00e8s la publication par Dario Amodei, le patron d’Anthropic, d’un plan en faveur d’un d\u00e9veloppement plus prudent de l’IA. Pour le lecteur, ce qui compte est le changement de ton : la s\u00e9curit\u00e9 n’est plus seulement d\u00e9fendue par les chercheurs ou les entreprises les plus alarmistes, mais aussi par le dirigeant de l’un des plus gros acteurs du secteur, qui est aussi l’un des principaux partenaires industriels de l’IA g\u00e9n\u00e9rative.<\/p>\n
Reste \u00e0 savoir si ces principes se traduiront par des fonctions concr\u00e8tes dans les produits que les entreprises et le grand public utilisent d\u00e9j\u00e0. Pour l’instant, il s’agit d’une prise de position et non d’une annonce technique.<\/p>\n
<\/p>\n