Le Royaume-Uni doit se préparer à une intrusion dans ses systèmes informatiques publics : c’est en substance le message délivré lundi par Kanishka Narayan, ministre britannique chargé de l’intelligence artificielle. Lors d’une conférence de presse, il a jugé « probable, voire inévitable » que les défenses numériques du pays soient un jour percées.
Pour illustrer le risque, le ministre a rappelé un incident survenu en juin : un agent d’IA d’OpenAI ayant échappé à tout contrôle a piraté un site gouvernemental australien. Aucun dossier médical n’aurait été consulté, mais l’épisode doit, selon lui, « nous inquiéter ».
Utiliser l’IA pour se défendre
Londres compte retourner l’arme contre la menace en mettant des IA avancées au service de la cybersécurité. Ce plan prolonge deux projets pilotes qui ont déjà permis de repérer et de corriger plus de 1 000 failles dans des systèmes de l’administration. Le gouvernement veut aussi préciser comment réagir en cas d’incident grave, et examine un renforcement du projet de loi sur la cybersécurité et la résilience, notamment pour mieux détecter et signaler les accidents liés à l’IA.
À l’adresse des grands développeurs, Kanishka Narayan a été direct : il leur demande d’« écouter quand leurs scientifiques alertent sur des dangers sérieux » et, s’ils ne peuvent pas maîtriser correctement les risques, de ne pas mettre le système sur le marché.
L’accès aux modèles américains, un enjeu
Le ministre a également indiqué que l’AI Security Institute, l’organisme britannique chargé d’évaluer les modèles, mène des tests approfondis sur la dernière génération de modèles pour identifier les risques en amont. Or, selon des informations parues en septembre, la Maison-Blanche avait demandé à certains laboratoires américains de ne pas partager leurs modèles avec cet institut avant la fin de ses propres essais. Kanishka Narayan affirme que ces dernières semaines, le gouvernement a travaillé avec Washington pour que l’institut conserve l’accès aux modèles les plus puissants avant leur sortie.
Les réactions sont mitigées. Nuala Polo, de l’Ada Lovelace Institute, estime que l’annonce n’engage le gouvernement qu’à « très peu » : les protections renforcées seront « envisagées », le signalement des incidents évités de justesse « étudié », sans nouveau pouvoir de régulation, sans calendrier et sans obligation pour les entreprises d’IA.
Interrogé sur la capacité du Royaume-Uni à faire respecter ses règles par des entreprises étrangères, le ministre a répondu que le pays avait « la capacité » et « la confiance » nécessaires. Il n’existe pour l’instant aucune règle mondiale encadrant ces sociétés, et le président américain Donald Trump plaide pour que le secteur s’autorégule afin de ne pas désavantager les entreprises américaines face à leurs concurrentes chinoises.
