SINGAPOUR / EuroWire.IO / – INTERPOL a lancé lundi 19 octobre une campagne de sensibilisation du public afin d'attirer l'attention sur le danger croissant que représentent les crimes impliquant des contenus générés ou modifiés par l'intelligence artificielle (IA) et conçus pour tromper les individus. La campagne comprend trois courtes vidéos, toutes créées grâce à l'intelligence artificielle, illustrant comment les contenus synthétiques – communément appelés deepfakes – peuvent être exploités pour duper leurs victimes. Le message principal invite le public à « Attendre. Vérifier. Ne pas tomber dans le piège. Cette initiative s'adresse autant aux citoyens qu'aux forces de l'ordre.
Ces vidéos illustrent divers scénarios, notamment un escroc se faisant passer pour un supérieur hiérarchique, le clonage de la voix d'une femme et la création d'une fausse identité amoureuse en ligne. INTERPOL a souligné que les outils d'intelligence artificielle générative et les vastes modèles de langage qui les sous-tendent progressent chaque jour davantage. Ces outils ne nécessitent plus d'expertise technique pointue ni d'investissements importants ; ils peuvent produire des avatars très réalistes capables de s'exprimer de façon quasi humaine, et même reproduire le visage ou la voix d'une personne à partir d'un minimum de contenu trouvé en ligne.
Selon INTERPOL, la sensibilisation du public à l'utilisation des deepfakes dans les activités criminelles demeure limitée. Autrefois perçus comme une menace principalement dirigée contre les personnalités publiques, les crimes liés aux médias synthétiques ciblent désormais de plus en plus les particuliers, notamment la fraude à l'investissement, l'usurpation d'identité, les escroqueries sentimentales, le chantage sexuel, la pornographie truquée et les campagnes de désinformation. Les arnaqueurs peuvent, par exemple, faire un appel vidéo en se faisant passer pour un collègue demandant un virement bancaire ou pour un proche en détresse. Des rapports antérieurs ont également alerté sur le fait que des groupes criminels utilisent l'IA pour faciliter la cybercriminalité et la fraude.
Les indices de tromperie deviennent moins évidents.
Toshinobu Yasuhira, directeur du Centre d'innovation d'INTERPOL, a déclaré : « L'IA efface les signes révélateurs d'une escroquerie. Il a constaté que les indices traditionnels, tels que les fautes d'orthographe, les incohérences de marque et les mises en page maladroites, disparaissent rapidement. M. Yasuhira a souligné que n'importe qui peut en être victime, peu importe son âge, son lieu de résidence ou son secteur d'activité. La mission d'INTERPOL est de fournir aux forces de l'ordre et au public les connaissances et les ressources nécessaires pour identifier ces menaces le plus tôt possible et prévenir tout préjudice. Par ailleurs, l'UNICEF a établi un lien entre l'utilisation de l'IA par les enfants et des problèmes d'apprentissage et de sécurité.
INTERPOL a souligné que le but ultime de ces escroqueries est de voler de l'argent ou d'accéder à des données personnelles sensibles. Plusieurs signes avant-coureurs ont été identifiés et doivent être portés à la connaissance du public, notamment les prises de contact non sollicitées de personnes inconnues ou se faisant passer pour des amis, des proches ou des organisations de confiance. Les victimes sont souvent poussées à agir rapidement, prétextant des crises personnelles ou des urgences familiales. Les escrocs exploitent aussi la peur, la détresse ou le secret pour dissuader leurs victimes de demander conseil. Les demandes de paiement par virement bancaire, cryptomonnaie ou carte-cadeau sont des indices courants d'une escroquerie.
Il est recommandé d'utiliser des mots de sécurité et l'authentification à deux facteurs.
INTERPOL met en garde contre les relations en ligne qui s'intensifient rapidement, en particulier celles où des déclarations d'amour et de dépendance affective apparaissent dès le début. Les victimes pourraient être tentées de poursuivre leurs conversations en dehors des plateformes de rencontre officielles afin d'échapper à la surveillance et aux signalements. L'agence recommande de rester calme et méfiante, même quand on pense parler à une personne de confiance. Il est fortement recommandé de raccrocher aux appels non sollicités et de privilégier les canaux de communication vérifiés et connus. Parler des interactions suspectes avec son entourage est aussi conseillé.
D'ailleurs, INTERPOL recommande aux familles et aux amis proches de convenir d'un mot de sécurité ou d'une question secrète pour vérifier l'identité de leurs interlocuteurs lors d'appels suspects. Il est également conseillé de consulter les profils en ligne des nouveaux contacts et de s'assurer que les photos de profil sont authentiques et non volées. L'activation de l'authentification à deux facteurs sur tous les comptes en ligne constitue une autre précaution essentielle. Cette campagne s'inscrit dans le cadre du projet SynthWave PLUS, financé par le gouvernement japonais, qui soutient les efforts des forces de l'ordre en Asie du Sud-Est et au-delà pour lutter contre les menaces posées par les médias synthétiques.
L'article « INTERPOL exhorte le public à reconnaître les escroqueries par deepfake IA comme des menaces » est paru initialement dans le Little Rock Gazette .