Die Regierung hat Ofcom, die britische Kommunikationsbehörde, dringend aufgefordert, den vollen Umfang ihrer Befugnisse zu prüfen, möglicherweise einschließlich eines Verbots, gegen die Social-Media-Plattform X, aufgrund von Bedenken hinsichtlich rechtswidriger, von künstlicher Intelligenz erzeugter Bilder, die auf der Seite kursieren. Diese Maßnahme beruht auf wachsender Besorgnis darüber, dass das KI-Modell Grok von X verwendet wird, um Deepfakes zu erstellen, insbesondere solche, die Personen in Bildern digital entkleiden.

Die Befugnis von Ofcom gemäß dem Online Safety Act erlaubt es ihr, Gerichtsbeschlüsse zu erwirken, die Dritte daran hindern könnten, X, das Elon Musk gehört, bei der Kapitalbeschaffung zu unterstützen oder den Zugang zur Plattform innerhalb des Vereinigten Königreichs zu ermöglichen. Die verstärkte Besorgnis der Regierung rührt von der potenziellen Erstellung sexualisierter Bilder von Kindern mithilfe von Grok her.

Premierminister Sir Keir Starmer verurteilte die Erstellung solcher Bilder mit den Worten: "Das ist schändlich. Es ist widerlich. Und es ist nicht zu tolerieren. Ofcom hat unsere volle Unterstützung, um diesbezüglich Maßnahmen zu ergreifen." Er betonte ferner die Haltung der Regierung und fügte in einem Interview mit Greatest Hits Radio hinzu: "Es ist rechtswidrig. Wir werden es nicht tolerieren. Ich habe darum gebeten, dass alle Optionen auf dem Tisch liegen." Regierungsquellen bestätigten gegenüber BBC News, dass sie "erwarten würden, dass Ofcom alle ihr zur Verfügung stehenden Befugnisse in Bezug auf Grok X nutzt".

Deepfakes, ein Kofferwort aus "Deep Learning" und "Fake", sind synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video mithilfe künstlicher Intelligenz durch das Abbild einer anderen Person ersetzt wird. Während Deepfakes verschiedene Anwendungen haben, darunter Unterhaltung und künstlerischer Ausdruck, wirft ihr Missbrauchspotenzial, wie z. B. die Erstellung nicht einvernehmlicher intimer Bilder oder die Verbreitung von Desinformationen, erhebliche ethische und rechtliche Bedenken auf. Die Raffinesse von KI-Modellen wie Grok hat es zunehmend erschwert, zwischen echten und manipulierten Inhalten zu unterscheiden, was das Problem weiter verkompliziert.

Der Online Safety Act räumt Ofcom erhebliche Befugnisse ein, Online-Inhalte zu regulieren und Nutzer vor Schaden zu schützen. Zu diesen Befugnissen gehören die Möglichkeit, Geldstrafen zu verhängen, die Entfernung illegaler Inhalte zu fordern und in extremen Fällen den Zugang zu Websites zu sperren. Die Aufforderung der Regierung an Ofcom, ein Verbot von X in Erwägung zu ziehen, unterstreicht, wie ernst sie die potenziellen Schäden im Zusammenhang mit KI-generierten Deepfakes nimmt.

Die Situation ist weiterhin im Fluss, und es ist unklar, welche konkreten Maßnahmen Ofcom ergreifen wird. Es wird erwartet, dass die Regulierungsbehörde die Beweislage und den rechtlichen Rahmen sorgfältig prüfen wird, bevor sie eine Entscheidung trifft. Der Ausgang dieses Falls könnte erhebliche Auswirkungen auf die Regulierung von KI-generierten Inhalten und die Verantwortung von Social-Media-Plattformen bei der Bekämpfung des Missbrauchs von KI-Technologien haben.