La tournée « Arsenal de la liberté » du Pentagone emprunte son nom à un épisode de Star Trek sur l’IA tueuse
Cette semaine, le PDG de SpaceX Elon Musk et le secrétaire à la Défense Pete Hegseth ont vanté leur désir de « rendre Star Trek réel », tout en nous rappelant inconsciemment ce qu’est fondamentalement cette franchise de science-fiction utopique.
Leur événement de mardi était le dernier de la tournée en cours « Arsenal de la liberté » de Hegseth, qui s’est tenue au siège de SpaceX à Starbase, au Texas. (Elle-même une ville nouvellement créée qui tire son nom d’un terme popularisé par Star Trek.)
Ni Musk ni Hegseth ne semblaient se souvenir que l’expression « Arsenal de la liberté », du moins dans le contexte de Star Trek, est également le titre d’un épisode de 1988 de Star Trek : La Nouvelle Génération. Cet épisode dépeint un système d’armes alimenté par l’IA, ainsi que son vendeur automatisé, qui détruit une civilisation entière et menace finalement l’équipage de l’USS Enterprise. (Certains fans de Star Trek ont cependant fait le rapprochement.)
Dans ses remarques d’ouverture cette semaine, Musk a vanté sa vision grandiose pour SpaceX, déclarant qu’il voulait « rendre Starfleet Academy réel ». (Starfleet Academy est l’institution éducative fictive au centre d’une nouvelle série télévisée Star Trek qui débute le 15 janvier.)
Lorsque Musk a présenté Hegseth, les deux hommes se sont serré la main. Puis Hegseth a fait le salut vulcain à la foule et a fait écho à Musk en disant : « Star Trek réel ! »
Hegseth s’est concentré sur l’importance de l’innovation et de l’intelligence artificielle pour l’armée américaine.
« Très bientôt, nous aurons les principaux modèles d’IA du monde sur chaque réseau non classifié et classifié de notre département. C’était attendu depuis longtemps », a déclaré Hegseth.
« Pour aller plus loin, aujourd’hui, sur ma directive, nous exécutons une stratégie d’accélération de l’IA qui étendra notre avance en matière d’IA militaire établie lors du premier mandat du président Trump. Cette stratégie libérera l’expérimentation, éliminera les barrières bureaucratiques, se concentrera sur les investissements et démontrera l’approche d’exécution nécessaire pour garantir que nous dirigeons en matière d’IA militaire et qu’elle devienne plus dominante à l’avenir. »
La domination militaire incontrôlée de l’IA est précisément le problème contre lequel l’épisode « Arsenal » met en garde, une leçon soit inconnue de Musk et Hegseth, soit qu’ils ont choisi d’ignorer.
Dans l’épisode, un vendeur piloté par l’IA essaie continuellement de vendre au capitaine Jean-Luc Picard les vertus de l’« Echo Papa 607 », un système d’armes sophistiqué qui menace son équipage.
Comme le vendeur le dit à Picard dans le point culminant de l’épisode, le 607 « représente l’état de l’art en matière de conception dynamique et adaptative. Il apprend de chaque rencontre et s’améliore. »
PICARD : Alors qu’est-ce qui a mal tourné ? Où sont ses créateurs ? Où sont les habitants de Minos ?
VENDEUR : Une fois déchaînée, l’unité est invincible. Le système de mise à mort parfait.
PICARD : Trop parfait. Pauvres fous, votre propre création vous a détruits. Quel était ce bruit ?
VENDEUR : L’unité a analysé sa dernière attaque et construit une nouvelle arme plus forte et plus meurtrière. Dans un instant, elle lancera cette arme contre les cibles en surface.
PICARD : Annulez-la !
VENDEUR : Pourquoi voudrais-je faire cela ? Elle ne peut pas démontrer ses capacités à moins que nous ne la laissions quitter le nid.
Ni Musk ni SpaceX n’ont répondu à la demande de commentaire d’Ars.
Lorsqu’Ars a demandé au Pentagone si Hegseth ou quelqu’un de son personnel avait vu ou connaissait cet épisode de Star Trek, un officier de service des opérations de presse du Pentagone a refusé de commenter.
« Nous n’avons rien à vous proposer à ce sujet », ont-ils écrit.
