Der katholische Priester und Podcaster Pater Mike Schmitz informierte seine YouTube-Gemeinde mit über 1,2 Millionen Abonnenten im November darüber, dass künstliche Intelligenz-Deepfakes ihn imitierten, um sie zu betrügen. Schmitz warnte seine Anhänger, dass sie "nicht immer den Worten trauen könnten, die aus seinem Mund kommen", weil es manchmal nicht wirklich sein Mund oder seine Worte seien.

Die Deepfakes zeigten eine digital erstellte Version von Schmitz, der um Gebete und Segen im Austausch für das Anklicken eines Links bat. In einem Fall forderte der gefälschte Schmitz, mit einer im Hintergrund aufragenden Sanduhr, die Zuschauer auf, "schnell zu handeln, denn die Plätze für das Senden von Gebeten gehen bereits zur Neige", sagte ein anderer gefälschter Schmitz mit einer im Hintergrund aufragenden Sanduhr. "Und die nächste Reise wird erst in vier Monaten stattfinden." Der echte Schmitz mit Sitz in Duluth, Minnesota, fügte Beispiele der KI-generierten Nachahmungen in seine öffentliche Bekanntmachung ein und hob die subtile, roboterhafte Qualität der Stimme hervor.

Deepfakes sind synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch das Abbild einer anderen Person mithilfe künstlicher Intelligenz ersetzt wird. Diese KI-generierten Fälschungen sind immer ausgefeilter geworden, so dass es für den Durchschnittsbürger schwierig ist, sie von authentischen Inhalten zu unterscheiden. Die Technologie basiert auf Algorithmen des maschinellen Lernens, insbesondere des Deep Learning, um die Mimik, die Stimme und die Verhaltensweisen einer Person zu analysieren und zu replizieren. Dies ermöglicht es böswilligen Akteuren, überzeugende gefälschte Videos und Audioaufnahmen für verschiedene betrügerische Zwecke zu erstellen, darunter Betrug, Desinformationskampagnen und Identitätsdiebstahl.

Der Aufstieg der Deepfake-Technologie stellt eine erhebliche Herausforderung für die Gesellschaft dar, untergräbt das Vertrauen in digitale Medien und wirft Bedenken hinsichtlich des Manipulationspotenzials auf. Experten warnen davor, dass die zunehmende Zugänglichkeit von Deepfake-Erstellungswerkzeugen zu einer Zunahme von Betrugsfällen führen könnte, die auf gefährdete Bevölkerungsgruppen abzielen.

Schmitz räumte ein, dass es für die Menschen schwierig sei, Echtes von Falschem zu unterscheiden. "Ich kann sie mir ansehen und sagen: 'Das ist lächerlich, das würde ich nie sagen'", sagte Schmitz. "Aber die Leute können das nicht unbedingt erkennen. Das ist ein Problem."

Strafverfolgungsbehörden und Technologieunternehmen arbeiten an der Entwicklung von Methoden zur Erkennung und Bekämpfung von Deepfakes. Diese Bemühungen umfassen die Entwicklung von Algorithmen, die subtile Inkonsistenzen in synthetischen Medien erkennen können, und die Aufklärung der Öffentlichkeit über die mit Deepfakes verbundenen Risiken.