L'IA révolutionne nos vies en termes de productivité, d'automatisation, de service client, etc. L'IA devient si importante que les organisations ont augmenté leurs dépenses en infrastructure matérielle de calcul et de stockage pour les déploiements d'IA de 37 % d'une année sur l'autre au premier semestre 2024, pour atteindre 31,8 milliards de dollars.
Cependant, comme la plupartavancées technologiques, le bien s'accompagne souvent du mal. Si l’IA présente des avantages, cette technologie présente également un côté sombre, avec le développement des escroqueries basées sur l’IA, utilisées par les cybercriminels comme moyen plus avancé de mener des cyberattaques, du phishing et du vol d’identité.
Pour vous aider à identifier les escroqueries basées sur l'IA générative, leur fonctionnement et comment les prévenir, cet article vous fournira toutes les informations dont vous avez besoin pour prévenir la fraude et protéger vos informations personnelles ou professionnelles contre ces menaces avancées.
Table des matières
- La victime perd 17 000 $ dans une escroquerie amoureuse en ligne
- Une femme perd 20 000 $ à cause d’une escroquerie à l’investissement par l’IA
- 25 millions de dollars perdus dans une escroquerie financière deepfake
- Outils de détection d'IA
- Limitez ou contrôlez votre présence sur les réseaux sociaux
- Soyez sceptique et validez
- Utilisez les contrôles d'accès, le cryptage et le partage de fichiers sécurisé
Les 5 arnaques à l'IA les plus courantes
Il s’agit des escroqueries basées sur l’IA les plus répandues actuellement sur le Web. Vous pouvez vous protéger contre les pertes de données ou financières en acquérant davantage de connaissances sur leur travail, avec des exemples concrets démontrant l'impact économique grave de ces dernières.sortes d'arnaques.
Deepfakes
Utilisation des escroqueries Deepfake AIintelligence artificiellepour créer des vidéos audio et des images très réalistes et convaincantes de personnes réelles, généralement des célébrités, pour tenter de frauder les utilisateurs.
Les vidéos Deepfake nécessitent plusieurs minutes d’images de haute qualité de la personne cible. Grâce à des plateformes commeYouTube, les criminels peuvent facilement accéder aux images pour capturer la cible sous différents angles et éclairages afin d'entraîner le modèle d'IA et d'obtenir la vidéo deepfake la plus réaliste et la plus convaincante possible.
Une fois créées, les vidéos deepfakes peuvent créer un faux dirigeant d'entreprise basé sur un employé réel pour demander aux employés de transférer de l'argent ou d'accéder à des comptes sensibles tels que la messagerie électronique oustockage en nuagecomptes pour voler des fichiers sensibles ou des informations d’entreprise.
En plus de cela, les deepfakes de l’IA peuvent également être utilisés pour diffuser des campagnes de marketing de désinformation qui convainquent les utilisateurs de télécharger.malware, achetez de faux produits ou dirigez-les vers un site Web frauduleux qui peut voler des e-mails, des mots de passe ou des informations financières.
Clonage vocal
AIarnaques au clonage vocalpeut créer des enregistrements convaincants de la voix d’une personne pour manipuler les autres afin de voler des informations sensibles ou de l’argent. Le clonage vocal AI analyse le ton, la hauteur, la cadence et les modèles de parole de la voix cible.
Le Vall-E de Microsoft, par exemple, peut reproduire des voix avec un échantillon de trois secondes. Cependant, cela peut être encore plus réaliste avec davantage de données facilement accessibles à partir de podcasts, d’entretiens vidéo ou des réseaux sociaux.
Une fois les données collectées, l'IA crée leclone de voixet appelle la cible pour commettre l'escroquerie, par exemple en se faisant passer pour un membre de la famille en détresse ayant besoin d'argent.
Ai est également utilisé dansescroqueries sur les réseaux sociauxpour créer des comptes automatisés qui imitent de vrais utilisateurs et qui aimeront, commenteront et partageront les publications d'un produit frauduleux pour gagner plus de visibilité et le rendre plus légitime.
Une fois les profils établis pour paraître plus réalistes, ils peuvent envoyer des messages de phishing, amenant les utilisateurs àsites Web frauduleuxpour voler des informations personnelles. Dans d’autres cas, l’IA est utilisée pour diffuser des informations erronées ou de fausses nouvelles afin d’influencer l’opinion publique.
Phishing par l'IA
Une autre arnaque à l’IA courante et populaire consiste à utiliser l’IA pour créer des campagnes de phishing. Les cybercriminels recueilleront des informations auprès de leur cible en utilisant des informations facilement disponibles en ligne. Les e-mails de phishing basés sur l'IA peuvent être incroyablement convaincants, car ils ne sont pas révélateurs.signes d'e-mails de phishing, comme des fautes de frappe ou de grammaire.
Au lieu de cela, l'IA peut créer un message plus personnalisé et sans erreur et des centaines d'e-mails en quelques minutes, ce qui en fait un outil populaire pour cibler les personnes viaEscroqueries WhatsApp.
L’IA peut être utilisée comme un outil dansprétexter des escroqueries, où l'acteur malveillant peut recueillir des informations sur cette cible et inciter l'IA à créer un message convaincant à envoyer à sa cible pour la convaincre de transmettre des informations personnelles.
Une fois créée, l’IA peut générer des e-mails qui semblent provenir d’une source fiable pour demander des détails sur un compte bancaire ou diffuser des liens malveillants. Le danger des e-mails de phishing IA est qu’en raison de la nature avancée des modèles de langage IA, ils peuvent contourner certains filtres de courrier électronique et tromper les utilisateurs les plus prudents.
Fausse documentation
Outre la voix, la vidéo et le contenu, les escroqueries basées sur l’IA peuvent créer de fausses images et de fausses documentations pour mener à bien leurs projets. En plus de créer des photos pour les profils de réseaux sociaux, l'IA peut également faire des copies de documents légitimes, tels que des pièces d'identité ou d'autres accréditations, pour paraître plus légitimes et accéder à des informations, comptes ou fichiers sensibles.
La génération d’images peut également créer des images IA pour de fausses approbations de produits ou d’autres publications afin d’essayer de gagner plus de terrain et de propager davantage l’arnaque.
Exemples concrets d'arnaques à l'IA
Voici quelques exemples récents d’escroqueries basées sur l’IA qui ont utilisé des vidéos deepfake et d’autres techniques d’ingénierie sociale pour voler des milliers et des millions de dollars à des victimes sans méfiance.
La victime perd 17 000 $ dans une escroquerie amoureuse en ligne
Après avoir rencontré quelqu'un dans un groupe de discussion en ligne, Nikki MacLeaod, 77 ans, pensait avoir trouvé l'amour en ligne avec une femme nommée Alla Morgan, qui prétendait travailler sur une plate-forme pétrolière en mer du Nord.
Bien qu’au départ sceptique, Nikki est devenue plus détendue lorsqu’elle a reçu des vidéos d’« Alla » d’elle travaillant sur la plate-forme pétrolière, même s’il s’est avéré qu’il s’agissait de vidéos deepfake créées par l’IA. Pendant learnaque relationnelle, Nikki a perdu 17 000 £ après avoir envoyé de l'argent viaPaypal, virement bancaire ou achat de cartes cadeaux.
L'escroc a également envoyé de faux documents créés par AI se faisant passer pour le service des ressources humaines pour lequel Alla travaillait, demandant 2 500 £ pour payer un hélicoptère afin de payer ses vacances en Écosse.
Finalement, la banque de Nikki a identifié les virements comme frauduleux et elle a reçu 7 000 £ en retour ; La majeure partie de l'argent a été perdue car elle l'a transféré dans la catégorie des paiements personnels pour les amis et la famille sur PayPal.
Une femme perd 20 000 $ à cause d’une escroquerie à l’investissement par l’IA
Ann Jensen de Salisbury a perdu 20 000 £ dans une arnaque après avoir été convaincue par une vidéo deepfake du Premier ministre britannique Sir Keir Starmer d'investir 200 £ initiales dans une opportunité de trading de crypto-monnaie.
Une fois le paiement initial effectué, la femme a été contactée pour lui dire que son investissement initial dépassait les 2 000 £, mais qu'elle devait contracter un prêt de 20 000 £ pour prouver sa fluidité financière et qu'elle serait encore plus remboursée grâce au trading. Une fois qu'elle l'a fait, elle n'a jamais étécontacté à nouveau par les escrocs.
Malheureusement, la banque a dit à Mme Jensen qu'elle était responsable du prêt et qu'elle ne recevrait aucun remboursement. Au lieu de cela, elle a accepté de rembourser à la banque 23 000 £ étalés sur 27 ans.
25 millions de dollars perdus dans une escroquerie financière deepfake
Un employé financier de Hong Kong a perdu 25 millions de dollars à cause d’une autre arnaque à l’IA lors d’un appel vidéo qu’il pensait être avec le directeur financier de l’entreprise et d’autres collègues.
Même si la cible s'est montrée initialement sceptique après avoir rejeté une-mail de phishing, le travailleur a malheureusement été trompé lors de l'appel vidéo des images deepfake et a autorisé une transaction de 25 millions de dollars aux escrocs.
Comment identifier les escroqueries liées à l'IA
Malgré le niveau avancé de l’IA, il existe encore des moyens d’identifier si le contenu est de l’IA ou non. Bien que cela puisse changer à mesure que l’IA se développe, c’est actuellement ainsi que vous pouvez identifier si les escroqueries liées à l’IA vous ciblent.
Outils de détection d'IA
Les outils gratuits de détection d’IA sont un excellent moyen de savoir si le contenu a été écrit par l’IA ou non.
Pour vous aider à vous protéger contre les escroqueries liées à l'IA, Internxt dispose d'un outil gratuit de détection d'IA ZeroGPT, qui analyse instantanément et vous indique si le contenu a été généré par l'IA. Aucun de vos contenus n'est enregistré ou utilisé pour entraîner le modèle, vos données sont donc 100 % sécurisées et privées.
Essayez-le gratuitement ici :https://internxt.com/ai-detector
Indices visuels
Lynsay Shephard, experte en cybersécurité et en informatique humaine de l'Université d'Abertay, affirme que les vidéos deepfake utilisées dans les arnaques à l'IA peuvent sembler légitimes si vous ne savez pas quoi chercher.
Elle recommande de regarder le mouvement des yeux et de cligner des yeux dans la vidéo, car les mouvements ne sont pas naturels et peuvent être désynchronisés. Lorsque les gens parlent, vous devez regarder autour de la mâchoire, car le filtre ou les applications se briseront et ne sembleront pas naturels.
Indices audio
Outre les indices visuels, les indices audio peuvent montrer des irrégularités et révéler une arnaque à l’IA. L’un des indices les plus importants est que le son ne sera pas synchronisé avec le mouvement des lèvres de la personne qui parle.
D'autres domaines, comme une voix hautement traitée et presque robotique dépourvue de cadence de parole naturelle, peuvent indiquer qu'elle a été créée par untu as un modèle. Enfin, si le temps de réponse est retardé ou si les réponses semblent trop génériques, cela peut également être le signe d’une voix profondément fausse.
Comportement inattendu
Si vous êtes contacté de manière inattendue par un cadre supérieur, une célébrité ou toute autre personne, soyez très prudent si vous décidez de continuer. Ne cliquez jamais sur les liens envoyés à partir d’un e-mail ou d’un message inattendu.
À l’instar des escroqueries par phishing traditionnelles, les escroqueries basées sur l’IA utilisent un sentiment d’urgence, une manipulation émotionnelle et une pression pour agir rapidement en envoyant de l’argent, en fournissant des détails sur le compte ou en donnant accès à des fichiers ou à de la documentation de haut niveau.
Quelqu'un est probablement en train de commettre une arnaque si quelqu'un vous contacte à l'improviste avec une promesse d'argent gratuit, facile ou rapide ou a besoin de votre aide pour sortir de ses difficultés financières.
Comment prévenir les escroqueries liées à l'IA
Heureusement, il existe des moyens d’identifier le spam si vous pensez qu’il s’agit d’un contenu deepfake. De plus, d'autres outils sont disponibles pour vous aider à identifier l'IA et à protéger vos données personnelles.empêcher l’IA d’utiliser votre contenuou des données pour entraîner son modèle.
Outils de détection d'IA
Les outils de détection d'IA peuvent rechercher les mouvements ou les modèles de parole non naturels généralement associés aux vidéos ou audio deepfake, tels que des incohérences subtiles dans les images vidéo, des clignements non naturels, la texture de la peau, etc., et déterminer s'il s'agit d'un contenu d'IA.
Même s’il n’est pas infaillible à 100 %, cela peut être un bon début. Pour une sécurité garantie afin d'empêcher les transactions non autorisées ou l'accès aux comptes, utilisez Two-Factor ouAuthentification biométriquepour tous vos comptes.
De nombreux modèles de langage d'IA, tels queGrok AI, analysera le langage des plateformes de médias sociaux pour usurper l'identité des utilisateurs et créer des e-mails de phishing personnalisés. Il analysera également le contenu des vidéos, des images et d’autres activités sur les réseaux sociaux.
Pour éviter cela, surveillez et si possible,supprimer ou limiter votre empreinte numériqueen modifiant les paramètres de confidentialité de vos comptes de réseaux sociaux pour limiter qui peut voir votre contenu, et vérifiez toujours les comptes si jamais vous recevez un message de quelqu'un avec une offre non invitée.
Soyez sceptique et validez
Si vous êtes contacté par des collègues ou des cadres supérieurs sur votre lieu de travail, contactez toujours la personne réelle pour vérification, cela empêchera également d'autres employés de tomber dans la même arnaque.
Pour les escroqueries aux rencontres, vous pouvez toujours effectuer une recherche d’image inversée, et si vous soupçonnez qu’ils utilisent du contenu deepfake, identifiez ou utilisez la technologie pour identifier les modèles d’IA.
Utilisez les contrôles d'accès, le cryptage et le partage de fichiers sécurisé
Pour éviter les fuites d'informations sur Internet, telles que des e-mails ou d'autres informations qui peuvent profiter aux modèles d'IA pour commettre des escroqueries, assurez-vous toujours de stocker, partager et chiffrer vos données à l'aide d'un stockage cloud crypté de bout en bout, commeInternxt Drive.
Internxt Drive pour les entreprisesdispose des contrôles d'accès et des informations nécessaires pour permettre aux gestionnaires de comptes de surveiller qui accède à leurs comptes et d'où pour empêcher les utilisateurs d'accéder à des informations sensibles sans autorisation appropriée.
Construisez une vie en ligne respectueuse de la confidentialité avec Internxt
Internxt Drive pour les particuliers et les entreprises utilise un cryptage sans connaissance, vous ne disposez donc que des clés de cryptage de vos fichiers. Vous ne pouvez accéder aux fichiers que lorsque vous les partagez ou les stockez à l'aide d'Internxt.
En utilisant des services comme Internxt, vous pouvez limiter les violations de données qui peuvent être utilisées pour entraîner l'IA et garder d'autres informations personnelles privées, car Internxt ne collecte, ne surveille ou ne partage jamais vos données, contrairement à d'autres services tels que Google.
Commencez avec les forfaits annuels ou à vie d'Internxt et bénéficiez de la meilleure protection des données et d'une protection accrue grâce à son stockage cloud etProduits VPN.