Le patron de Microsoft, Satya Nadella, a publié samedi sur X un long message consacré à la sécurité de l’intelligence artificielle. Selon lui, il est temps de « prendre du recul et d’évaluer l’architecture de confiance » de ces technologies, alors que les incidents où des entreprises semblent perdre le contrôle de leurs modèles se multiplient.
Ne plus traiter l’IA comme une boîte noire
Le dirigeant refuse que la « super intelligence », terme privilégié par l’administration Trump, soit vue comme un empilement de boîtes noires dont on se contenterait d’accepter ou de rejeter les réponses et les actions. Il propose d’abord de séparer le modèle du dispositif qui orchestre son travail, et de placer les contrôles et les garde-fous en dehors du modèle lui-même.
Il demande aussi que chaque action significative d’un modèle soit consignée sous forme de preuves lisibles par un humain et impossibles à falsifier. Enfin, une personne autorisée devrait toujours pouvoir mettre un modèle en pause, voire l’arrêter en pleine tâche.
Partir du principe que le modèle est compromis
Sa formule la plus marquante : il faut, dit-il, « supposer qu’un modèle est compromis et le contenir dès le départ ». Il compare ce mécanisme à un frein d’urgence, un dispositif que l’on espère ne jamais utiliser mais dont l’absence serait inacceptable.
Cette prise de parole intervient après la publication par Dario Amodei, le patron d’Anthropic, d’un plan en faveur d’un développement plus prudent de l’IA. Pour le lecteur, ce qui compte est le changement de ton : la sécurité n’est plus seulement défendue par les chercheurs ou les entreprises les plus alarmistes, mais aussi par le dirigeant de l’un des plus gros acteurs du secteur, qui est aussi l’un des principaux partenaires industriels de l’IA générative.
Reste à savoir si ces principes se traduiront par des fonctions concrètes dans les produits que les entreprises et le grand public utilisent déjà. Pour l’instant, il s’agit d’une prise de position et non d’une annonce technique.
Image : Brian Smale and Microsoft, CC BY-SA 4.0, via Wikimedia Commons
