D'après l’Office fédéral de la cybersécurité (OFCS), les fraudes utilisant l’IA sont en plein essor dans le pays, en particulier les cas de « sextorsion » et de clonage de voix.
L’OFCS, qui succède au NCSC (Centre national pour la cybersécurité) a publié ses conclusions dans un rapport bi-annuel.
En Suisse, les signalements de fraude en ligne ont doublé au second semestre 2023, comparé à la même période en 2022, et dépassent les 30 000 cas. L’OFCS ajoute que l’utilisation de l’IA à des fins malveillantes a pris de l'ampleur, même si les cybercriminels n’y ont pas recours systématiquement.
Les cas de sextorsion utilisant des images générées par IA sont eux aussi en augmentation. Ce type d’arnaque consiste pour les criminels à utiliser des images/vidéos modifiées (ce qu’on appelle les « deepfakes ») dans le but de faire du chantage aux victimes en les menaçant de publier les documents compromettants sur des plateformes publiques.
Des techniques sophistiquées d'imitation de la voix ont également été signalées. Ces technologies sont parfois si convaincantes que les victimes croient qu’elles parlent avec des proches ou des collègues. L’IA est également utilisée pour créer des e-mails qui imitent le style visuel et linguistique d’institutions réputées avec une telle précision que la fraude devient difficile à détecter.
Enfin, d'autres approches ont été identifiées dans la fraude aux investissements en ligne, qui se servent de deepfakes de personnalités.
Selon l’OFCS : « Les escrocs ne manquent pas de créativité et trouvent sans cesse de nouveaux scénarios pour pousser les victimes à réagir sans prendre le temps de réfléchir. Le contenu généré par IA ne fait qu’accentuer cette tendance. Ne vous laissez pas submerger par l’émotion, prenez le temps de réfléchir et en cas de doute, parlez-en à un proche ou contactez l’OFCS pour avoir leur avis sur le sujet. »