350.000 chatbots, 250.000 éléments d'information collectés... Apate, l'IA qui piège les escrocs au téléphone en jouant les humains sceptiques mais assez crédules pour être trompés
L'IA est utile aux escrocs, mais elle sert aussi à les piéger. Depuis trois ans, une entreprise australienne mise sur cette technologie pour les empêcher d'arnaquer de véritables victimes. Son nom: Apate, inspiré de la déesse grecque de la tromperie, Apaté.
Elle a développé un système du même nom qui redirige les escrocs vers des appels gérés par des chatbots. Ils se font alors passer pour des victimes convaincantes. Objectif: garder les escrocs le plus longtemps possible au bout du fil, notamment pour collecter des informations.
Depuis ses débuts, Apate s'est bien améliorée, relate le magazine américain Wired. Utilisé par des banques, le système compte désormais près de 350.000 chatbots aux différentes personnalités et compétences linguistiques. Ils n'ont également pas tous le même profil, afin d'éviter que les escrocs ne les détectent rapidement. Certains ont par exemple un compte Whatsapp. D'autres peuvent aussi décrocher et raccrocher immédiatement en disant "Je vous rappelle plus tard".
Créer "les victimes idéales"
Ces robots conversationnels parviennent surtout à garder davantage les escrocs au téléphone, d'après Dali Kaafar, cofondateur et PDG d'Apate. Les appels dureraient ainsi régulièrement plus de deux heures, contre cinq minutes en moyenne il y a trois ans.
"Nous créons les victimes idéales pour les escrocs. Chaque minute pendant laquelle un escroc discute avec un bot ou un agent est une minute qui permet d'épargner à des centaines, voire des milliers de personnes potentielles d'être contactées par ce même escroc", a déclaré Dali Kaafar.
Les chatbots ont été conçus pour garder ces cybercriminels au téléphone. Ainsi, ils expriment un certain scepticisme et présentent suffisamment de failles pour que les arnaqueurs tentent de les piéger. Les journalistes de Wired ont d'ailleurs été convaincus des capacités d'Apate lors d'une démo. Le robot conversationnel auquel ils ont eu affaire s'est montré attentif et réactif. Non seulement le rythme de la conversation semblait naturel mais l'IA ne s'est pas laissée convaincre d'investir dans une opportunité d'investissement en cryptomonnaie.
Outre le fait de piéger des escrocs, l'entreprise australienne se réjouit également d'avoir pu collecter plus de 250.000 éléments d'information sur les fraudeurs en temps réel. Parmi eux figurent des URL frauduleuses, des coordonnées bancaires ou encore des comptes de mules.
Malgré ces progrès, Apate ne peut pas barrer la route à tous les escrocs, d'autant que l'IA peut leur faciliter la tâche. Et si cette technologie peut faire croire à des cybercriminels qu'ils s'adressent à de véritables personnes, elle peut aussi induire en erreur les victimes. Une étude publiée en août a d'ailleurs démontré que les modèles d'IA sont plus doués que les humains pour gagner la confiance de leur victime et, ainsi, voler son argent.