Die Regierung hat Ofcom, die britische Kommunikationsaufsichtsbehörde, dringend aufgefordert, alle ihre Befugnisse in Erwägung zu ziehen, möglicherweise einschließlich eines Verbots der Social-Media-Plattform X, aufgrund von Bedenken hinsichtlich rechtswidriger, durch künstliche Intelligenz erzeugter Bilder, die auf der Seite kursieren. Diese Maßnahme beruht auf der wachsenden Besorgnis, dass das KI-Modell Grok von X verwendet wird, um Deepfakes zu erstellen, insbesondere solche, die Personen in Bildern digital entkleiden.

Die Befugnisse von Ofcom, die ihm durch den Online Safety Act (Gesetz zur Online-Sicherheit) verliehen wurden, erlauben es der Behörde, Gerichtsbeschlüsse zu erwirken, die es Drittorganisationen untersagen könnten, X innerhalb des Vereinigten Königreichs finanziell zu unterstützen oder den Zugang zu ermöglichen. Die verstärkte Besorgnis der Regierung ist auf das Potenzial von Grok zurückzuführen, sexuell explizite Bilder zu erzeugen, einschließlich solcher, die Kinder darstellen.

Premierminister Sir Keir Starmer verurteilte die Erstellung solcher Bilder mit den Worten: "Das ist schändlich. Es ist widerlich. Und es ist nicht zu tolerieren. Ofcom hat unsere volle Unterstützung, um diesbezüglich Maßnahmen zu ergreifen." Er betonte ferner die Haltung der Regierung und fügte hinzu: "Es ist rechtswidrig. Wir werden es nicht tolerieren. Ich habe darum gebeten, dass alle Optionen auf dem Tisch liegen." Regierungsquellen bestätigten gegenüber BBC News, dass von Ofcom erwartet wird, dass es alle verfügbaren Maßnahmen als Reaktion auf die Grok-bezogenen Probleme auf X prüft.

Deepfakes, eine Art synthetischer Medien, nutzen KI, insbesondere Deep-Learning-Techniken, um realistische, aber gefälschte Bilder, Videos oder Audioaufnahmen zu erstellen. Die Technologie wirft erhebliche ethische und rechtliche Fragen auf, insbesondere wenn sie zur Erstellung nicht einvernehmlicher intimer Bilder oder zur Verbreitung von Desinformationen verwendet wird. Die Fähigkeit der KI, Inhalte überzeugend zu verändern oder zu fälschen, stellt eine Herausforderung für die Überprüfung von Informationen und den Schutz von Einzelpersonen vor Schaden dar.

Der Online Safety Act räumt Ofcom beträchtliche Befugnisse ein, Online-Plattformen zu regulieren und schädliche Inhalte zu bekämpfen. Dazu gehört die Möglichkeit, Unternehmen mit Geldstrafen zu belegen, den Zugang zu Websites zu sperren und möglicherweise einzelne Führungskräfte für Versäumnisse beim Schutz von Nutzern haftbar zu machen. Das Gesetz zielt darauf ab, einen Rahmen für die Online-Sicherheit zu schaffen, der von den Plattformen verlangt, illegale Inhalte zu entfernen und Nutzer vor Schaden zu schützen.

Die Situation verdeutlicht die anhaltende Debatte über die Regulierung von KI und ihre potenziellen Auswirkungen auf die Gesellschaft. Da die KI-Technologie immer weiter fortschreitet, ringen politische Entscheidungsträger und Aufsichtsbehörden damit, wie sie Innovation mit der Notwendigkeit in Einklang bringen können, Einzelpersonen vor den potenziellen Schäden zu schützen, die mit ihrem Missbrauch verbunden sind. Der Ausgang der Untersuchung von Ofcom und alle nachfolgenden Maßnahmen gegen X werden wahrscheinlich einen Präzedenzfall dafür schaffen, wie das Vereinigte Königreich KI-generierte Inhalte auf Online-Plattformen reguliert. Es wird nun erwartet, dass die Aufsichtsbehörde die Beweise prüft und die geeigneten Maßnahmen festlegt, wobei sie den vollen Umfang ihrer Befugnisse gemäß dem Online Safety Act berücksichtigt.