Ein Verbot eines Unternehmens, das als X bezeichnet wird, ist im Vereinigten Königreich aufgrund von Bedenken hinsichtlich Deepfakes möglich, so eine Erklärung eines Regierungsministers. Der Minister nannte das angebliche Versäumnis der Plattform, die Verbreitung von KI-generierten, manipulierten Inhalten angemessen zu bekämpfen, als Grund für das mögliche Verbot.

Die Regierung erwägt aktiv alle verfügbaren Optionen, einschließlich eines Verbots, um die Sicherheit der Bürger und die Integrität der Informationen zu gewährleisten, erklärte der Minister am Dienstag während einer parlamentarischen Anhörung. Die konkreten Bedenken drehen sich um Deepfakes, die potenziell die Öffentlichkeit irreführen, Wahlen beeinflussen oder den Ruf schädigen könnten.

Der im vergangenen Jahr verabschiedete Online Safety Act gibt der Regierung die Befugnis, Online-Plattformen zu regulieren und sie für schädliche Inhalte zur Rechenschaft zu ziehen. Diese Gesetzgebung bietet den Rahmen für mögliche Maßnahmen gegen X, einschließlich Geldstrafen und letztendlich eines Verbots, wenn die Plattform die Bestimmungen des Gesetzes nicht einhält.

Kritiker von X argumentieren seit langem, dass die Plattform nicht genug unternommen hat, um die Verbreitung von Fehlinformationen und schädlichen Inhalten, einschließlich Deepfakes, zu bekämpfen. Sie verweisen auf Fälle, in denen manipulierte Videos und Bilder viral gegangen sind und in der realen Welt Schaden angerichtet haben.

X veröffentlichte als Reaktion auf die Erklärung des Ministers eine Erklärung, in der das Unternehmen sein Engagement für die Bekämpfung von Deepfakes und Fehlinformationen bekräftigte. Das Unternehmen umriss seine bestehenden Richtlinien und Technologien zur Erkennung und Entfernung manipulierter Inhalte und fügte hinzu, dass es kontinuierlich daran arbeite, seine Fähigkeiten in diesem Bereich zu verbessern. "Wir nehmen das Thema Deepfakes sehr ernst und setzen uns dafür ein, unsere Nutzer vor schädlichen Inhalten zu schützen", heißt es in der Erklärung.

Einige Experten bleiben jedoch skeptisch gegenüber den Bemühungen von X und argumentieren, dass die Richtlinien der Plattform nicht konsequent durchgesetzt werden und dass ihre Erkennungstechnologien nicht fortschrittlich genug sind, um mit den sich schnell entwickelnden Fähigkeiten der Deepfake-Technologie Schritt zu halten.

Der Schritt der britischen Regierung erfolgt inmitten wachsender globaler Besorgnis über das Potenzial von Deepfakes, das Vertrauen in Institutionen zu untergraben und Gesellschaften zu destabilisieren. Mehrere Länder prüfen Möglichkeiten, Deepfakes zu regulieren und diejenigen zur Rechenschaft zu ziehen, die sie erstellen und verbreiten.

Das Department for Science, Innovation and Technology prüft derzeit die Reaktion von X auf die Bedenken der Regierung. Es wird erwartet, dass das Ministerium in den kommenden Wochen eine Empfehlung an den Minister abgeben wird, woraufhin eine Entscheidung darüber getroffen wird, ob ein Verbot angestrebt werden soll. Der Entscheidungsprozess wird Konsultationen mit Experten, Interessengruppen und anderen Regierungsbehörden umfassen.