Le prêtre catholique et podcasteur, le Père Mike Schmitz, a informé sa congrégation YouTube de plus de 1,2 million d'abonnés en novembre que des deepfakes d'intelligence artificielle l'imitaient dans le but de les escroquer. Schmitz a averti ses fidèles qu'ils "ne pouvaient pas toujours faire confiance aux mots qui sortaient de sa bouche", car parfois ce n'était pas vraiment sa bouche ou ses mots.

Les deepfakes présentaient une version fabriquée numériquement de Schmitz sollicitant des prières et des bénédictions en échange d'un clic sur un lien. Dans un cas, le faux Schmitz, avec un sablier se profilant derrière lui, a exhorté les téléspectateurs à "agir rapidement, car les places pour envoyer des prières sont déjà épuisées, a déclaré un autre faux Schmitz avec un sablier se profilant derrière lui. Et le prochain voyage n'aura lieu que dans quatre mois." Le vrai Schmitz, basé à Duluth, dans le Minnesota, a inclus des exemples des usurpations d'identité générées par l'IA dans son annonce d'intérêt public, soulignant la subtile qualité robotique de la voix.

Les deepfakes sont des médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par la ressemblance de quelqu'un d'autre à l'aide de l'intelligence artificielle. Ces contrefaçons générées par l'IA sont devenues de plus en plus sophistiquées, ce qui rend difficile pour la personne moyenne de les distinguer du contenu authentique. La technologie repose sur des algorithmes d'apprentissage automatique, en particulier l'apprentissage profond, pour analyser et reproduire les expressions faciales, la voix et les maniérismes d'une personne. Cela permet à des acteurs malveillants de créer de fausses vidéos et des enregistrements audio convaincants à diverses fins trompeuses, notamment la fraude, les campagnes de désinformation et le vol d'identité.

L'essor de la technologie des deepfakes pose un défi important à la société, érodant la confiance dans les médias numériques et soulevant des inquiétudes quant au potentiel de manipulation. Les experts avertissent que l'accessibilité croissante des outils de création de deepfakes pourrait entraîner une prolifération d'escroqueries ciblant les populations vulnérables.

Schmitz a reconnu la difficulté qu'ont les gens à discerner le vrai du faux. "Je peux les regarder et dire 'C'est ridicule, je ne dirais jamais ça'", a déclaré Schmitz. "Mais les gens ne peuvent pas nécessairement le dire. C'est un problème."

Les forces de l'ordre et les entreprises technologiques s'efforcent de développer des méthodes de détection et de lutte contre les deepfakes. Ces efforts comprennent la création d'algorithmes capables d'identifier les incohérences subtiles dans les médias synthétiques et l'éducation du public sur les risques associés aux deepfakes.