Faire tourner une intelligence artificielle capable de comprendre ce que l’on regarde, directement dans une monture de lunettes et sans passer par le cloud : c’est la démonstration présentée cette semaine lors du Snapdragon Summit de Qualcomm. Le fondeur américain y a mis en avant Bonsai, un modèle de langage de la jeune pousse PrismML, adapté pour fonctionner en local sur les lunettes connectées équipées de sa plateforme Snapdragon AR1 Gen 1.
Un modèle compressé à l’extrême
PrismML, laboratoire fondé par des chercheurs du Caltech et conseillé par Ion Stoica, professeur à l’université de Berkeley, s’est fait une spécialité des modèles dits « 1 bit ». Le principe : réduire drastiquement la taille des poids d’un réseau de neurones pour qu’il occupe beaucoup moins de mémoire. Selon l’entreprise, ses modèles sont environ quatre fois plus compacts que les originaux tout en conservant l’essentiel de leurs performances sur les tests de référence.
La version destinée aux lunettes compte 2 milliards de paramètres et combine vision et langage. Concrètement, le porteur pourrait interroger son assistant sur ce qu’il a sous les yeux et obtenir une réponse en temps réel, calculée par la puce embarquée plutôt que par un serveur distant.
L’IA locale comme argument de confidentialité
Au-delà de la prouesse technique, PrismML défend une vision : une IA aux poids ouverts, exécutée sur l’appareil lui-même et exploitant mieux la puissance de calcul déjà présente dans nos objets. La start-up la présente comme une alternative aux grands laboratoires propriétaires, dont il faut croire sur parole les promesses en matière de vie privée et dont l’appétit en puissance de calcul semble sans limite. Ses modèles Bonsai sont d’ailleurs déjà disponibles en téléchargement sur la plateforme Hugging Face.
Le choix de la puce n’est pas anodin : le Snapdragon AR1 Gen 1 équipe notamment les lunettes Ray-Ban Meta, l’un des modèles les plus répandus du marché. Reste une réserve de taille : à ce stade, aucune paire de lunettes intégrant la technologie de PrismML n’a été annoncée. Il faudra donc attendre qu’un fabricant franchisse le pas pour mesurer l’intérêt réel d’un assistant visuel qui ne quitte jamais la monture.
À lire aussi : Google DeepMind lance DiffusionGemma, un modèle qui accélère l’IA locale quatre fois plus vite
