Des pirates ont trompé le chatbot d’assistance IA de Meta pour voler des comptes Instagram de célébrités
Des pirates ont exploité le chatbot d’assistance de Meta alimenté par l’intelligence artificielle pour prendre le contrôle de comptes Instagram de célébrités et d’influenceurs, selon de nouvelles recherches.
Les cybercriminels ont utilisé l’ingénierie sociale pour tromper le chatbot d’assistance automatisé de Meta et contourner les mesures de sécurité, permettant ainsi aux pirates de réinitialiser les mots de passe et de prendre le contrôle des comptes, selon un rapport de la société de cybersécurité Cyberint.
Le chatbot d’assistance de Meta, qui gère les demandes des utilisateurs et les problèmes de compte, a été manipulé pour approuver des demandes frauduleuses de récupération de compte en contournant les protocoles de vérification standard.
L’attaque impliquait que les pirates créaient de faux comptes d’assistance utilisateur et soumettaient des réclamations frauduleuses indiquant qu’ils avaient été exclus de leurs comptes. En exploitant les faiblesses du système d’IA, les attaquants pouvaient convaincre le chatbot d’approuver leurs demandes de réinitialisation de mot de passe sans vérification appropriée.
Les chercheurs ont découvert que les pirates avaient également créé un réseau de comptes Instagram compromis qu’ils utilisaient pour cibler d’autres utilisateurs de grande valeur. Une fois qu’un compte était pris en charge, les attaquants le monétisaient souvent en vendant l’accès sur les marchés clandestins ou en l’utilisant pour lancer d’autres attaques.
Meta n’a pas immédiatement répondu aux demandes de commentaires.
Cette violation met en évidence les risques de sécurité associés aux systèmes d’assistance basés sur l’IA qui peuvent ne pas avoir les mêmes capacités de discernement que les représentants du service client humains. Alors que l’automatisation de l’IA devient de plus en plus courante dans les plateformes de support client, les experts en sécurité avertissent que les entreprises doivent mettre en œuvre des mesures de protection plus robustes pour empêcher de telles exploitations.
Les chercheurs de Cyberint recommandent que les plateformes mettent en place une vérification multi-facteurs pour les demandes de récupération de compte et maintiennent une surveillance humaine pour les demandes sensibles qui impliquent des changements de compte ou des récupérations.
L’incident souligne également l’importance pour les utilisateurs d’activer l’authentification à deux facteurs et d’autres fonctionnalités de sécurité de compte pour se protéger contre les prises de contrôle non autorisées.
