Die britische Regierung hat Ofcom, die Kommunikationsbehörde des Landes, dringend aufgefordert, den vollen Umfang ihrer Befugnisse in Erwägung zu ziehen, möglicherweise einschließlich eines Verbots, gegen die Social-Media-Plattform X, aufgrund von Bedenken hinsichtlich rechtswidriger, durch künstliche Intelligenz erzeugter Deepfakes, die auf der Seite erscheinen. Diese Maßnahme beruht auf wachsenden Bedenken hinsichtlich der Nutzung des KI-Modells Grok von X zur Erstellung digital veränderter Bilder, einschließlich solcher, die Personen ihrer Kleidung entledigen.

Die Befugnisse von Ofcom gemäß dem Online Safety Act erlauben es der Behörde, Gerichtsbeschlüsse zu erwirken, die Dritte daran hindern könnten, die finanziellen Operationen von X oder dessen Zugänglichkeit innerhalb des Vereinigten Königreichs zu ermöglichen. Die verstärkte Besorgnis der Regierung rührt von dem Potenzial her, dass Grok zur Erzeugung sexualisierter Bilder verwendet werden könnte, insbesondere solcher, die Kinder darstellen.

Premierminister Sir Keir Starmer verurteilte die Erstellung solcher Bilder mit den Worten: "Das ist schändlich. Es ist widerlich. Und es ist nicht zu tolerieren. Ofcom hat unsere volle Unterstützung, um diesbezüglich Maßnahmen zu ergreifen." Er betonte ferner die Haltung der Regierung und fügte hinzu: "Es ist rechtswidrig. Wir werden es nicht tolerieren. Ich habe darum gebeten, dass alle Optionen auf dem Tisch liegen." Regierungsquellen bestätigten gegenüber BBC News, dass sie von Ofcom erwarten, alle verfügbaren Befugnisse zu nutzen, um das Problem von Grok auf X anzugehen.

Deepfakes, eine Form synthetischer Medien, nutzen KI, insbesondere Deep-Learning-Techniken, um höchst realistische, aber gefälschte Bilder, Videos oder Audioaufnahmen zu erstellen. Die Technologie wirft erhebliche ethische und gesellschaftliche Bedenken auf, darunter das Potenzial für Fehlinformationen, Diffamierung und nicht einvernehmliche Pornografie. Die Fähigkeit, Bilder und Videos überzeugend zu verändern, kann das Vertrauen in visuelle Informationen untergraben und Herausforderungen bei der Unterscheidung zwischen Realität und Fälschung schaffen.

Der Online Safety Act räumt Ofcom erhebliche regulatorische Befugnisse ein, um schädliche Inhalte im Internet zu bekämpfen. Zu diesen Befugnissen gehört die Möglichkeit, Unternehmen mit Geldstrafen zu belegen, die Nutzer nicht vor illegalen Inhalten schützen, und in extremen Fällen den Zugang zu Websites zu sperren. Die Aufforderung der Regierung an Ofcom, ein Verbot in Erwägung zu ziehen, unterstreicht die Schwere ihrer Bedenken hinsichtlich des potenziellen Missbrauchs von KI auf Social-Media-Plattformen.

Die Situation unterstreicht die anhaltende Debatte über die Regulierung von KI und ihre potenziellen Auswirkungen auf die Gesellschaft. Da die KI-Technologie immer weiter fortschreitet, stehen Regulierungsbehörden und politische Entscheidungsträger vor der Herausforderung, Innovation mit der Notwendigkeit zu vereinbaren, Einzelpersonen vor Schaden zu schützen. Das Ergebnis der Untersuchung von Ofcom und alle nachfolgenden Maßnahmen gegen X werden wahrscheinlich einen Präzedenzfall dafür schaffen, wie KI-generierte Inhalte im Vereinigten Königreich reguliert werden, und möglicherweise ähnliche Diskussionen in anderen Ländern beeinflussen. Es wird nun erwartet, dass die Regulierungsbehörde die Beweise prüft und die geeigneten Maßnahmen festlegt, wobei sie den vollen Umfang ihrer Befugnisse gemäß dem Online Safety Act berücksichtigt.