Ein 61-sekündiges Video, das auf TikTok kursiert, stellte fälschlicherweise den britischen Premierminister Keir Starmer dar, wie er eine landesweite Ausgangssperre ab 23:00 Uhr ankündigt, die es den Einwohnern untersagt, ihre Häuser ohne offizielle Genehmigung zu verlassen. Das Video, eines von Tausenden mit Herrn Starmer, die in den letzten Monaten veröffentlicht wurden, erzielte über 430.000 Aufrufe und löste ähnliche Beiträge auf X und Facebook aus, bevor es von TikTok entfernt wurde.

Das manipulierte Video nutzte die sich rasant entwickelnde Technologie der künstlichen Intelligenz, um die Stimme von Herrn Starmer nachzuahmen, einschließlich seines markanten nasalen Singsangs, was es schwierig machte, es von authentischen Aufnahmen zu unterscheiden. NewsGuard, ein Unternehmen, das sich auf die Verfolgung von Online-Fehlinformationen spezialisiert hat, identifizierte 6.042 ähnliche Videos, die hauptsächlich Herrn Starmer zeigten und zwischen Mai und Dezember veröffentlicht wurden. Diese Videos wurden Berichten zufolge von Konten mit nicht offengelegten Verbindungen gepostet.

Die Community-Richtlinien von TikTok verbieten offiziell gefälschte maßgebliche Quellen oder Krisenereignisse sowie die falsche Darstellung von Persönlichkeiten des öffentlichen Lebens. Trotz dieser Richtlinien stellt die Verbreitung von KI-generierten Fehlinformationen weiterhin eine Herausforderung für Social-Media-Plattformen dar. Der Vorfall verdeutlicht die zunehmende Raffinesse der Deepfake-Technologie und ihr Potenzial, falsche Informationen schnell zu verbreiten.

Die Erstellung und Verbreitung solcher Videos wirft Bedenken hinsichtlich der Auswirkungen von KI-generierten Inhalten auf den öffentlichen Diskurs und des Potenzials für Manipulation auf. Experten warnen, dass die Technologie immer zugänglicher wird, was es böswilligen Akteuren erleichtert, überzeugende gefälschte Videos und Audioaufnahmen zu erstellen. Der Vorfall unterstreicht die Notwendigkeit erhöhter Wachsamkeit und Medienkompetenz, um die Verbreitung von Fehlinformationen online zu bekämpfen. Bisher wurden das Originalvideo und seine Kopien von den großen Plattformen entfernt, aber der Vorfall dient als Mahnung an den anhaltenden Kampf gegen Online-Desinformation.