Die Regierung hat Ofcom, die britische Kommunikationsbehörde, dringend aufgefordert, den vollen Umfang ihrer Befugnisse zu prüfen, möglicherweise einschließlich eines Verbots, gegen die Social-Media-Plattform X, aufgrund von Bedenken hinsichtlich der Erstellung und Verbreitung von rechtswidrigen, KI-generierten Bildern. Diese Maßnahme folgt auf wachsende Kritik an der Nutzung des KI-Modells Grok von X, das verwendet wurde, um Bilder digital zu verändern, einschließlich des Entfernens von Kleidung von Personen.

Die Befugnis von Ofcom gemäß dem Online Safety Act erlaubt es ihr, Gerichtsbeschlüsse zu erwirken, die verhindern könnten, dass Dritte X finanziell unterstützen oder den Zugang zur Plattform innerhalb des Vereinigten Königreichs ermöglichen. Die verstärkte Besorgnis der Regierung rührt von dem Potenzial von Grok her, sexualisierte Bilder zu erzeugen, insbesondere solche, die Kinder darstellen.

Premierminister Sir Keir Starmer verurteilte die Erstellung solcher Bilder mit den Worten: "Das ist schändlich. Es ist widerlich. Und es darf nicht toleriert werden. Ofcom hat unsere volle Unterstützung, um diesbezüglich Maßnahmen zu ergreifen." Er betonte ferner die Haltung der Regierung und fügte in einem Interview mit Greatest Hits Radio hinzu: "Es ist rechtswidrig. Wir werden es nicht tolerieren. Ich habe darum gebeten, dass alle Optionen auf dem Tisch liegen."

Regierungsquellen bestätigten gegenüber BBC News, dass sie von Ofcom erwarten, dass sie alle verfügbaren Befugnisse als Reaktion auf die Probleme im Zusammenhang mit Grok und X ausschöpft.

Das Kernproblem dreht sich um den Missbrauch von generativer KI, einer Art künstlicher Intelligenz, die in der Lage ist, neue Inhalte zu erstellen, darunter Bilder, Texte und Audio. Während generative KI ein erhebliches Potenzial für Innovation und Kreativität birgt, wirft ihr Missbrauch ernsthafte ethische und rechtliche Bedenken auf. Deepfakes, KI-generierte Medien, die überzeugend darstellen, dass jemand etwas tut oder sagt, was er nicht getan hat, stellen eine besonders besorgniserregende Anwendung dar. Die Fähigkeit, realistische, aber erfundene Bilder zu erstellen, kann für böswillige Zwecke verwendet werden, darunter die Verbreitung von Fehlinformationen, die Schädigung von Rufen und die Erstellung von nicht einvernehmlichen intimen Bildern.

Der Online Safety Act räumt Ofcom die Befugnis ein, Online-Dienste zu regulieren und schädliche Inhalte zu bekämpfen. Dies umfasst die Möglichkeit, Geldstrafen zu verhängen, die Entfernung illegaler Inhalte zu fordern und in extremen Fällen den Zugang zu Plattformen zu sperren, die sich nicht an das Gesetz halten. Die Forderung der Regierung an Ofcom, ein Verbot in Erwägung zu ziehen, unterstreicht die Schwere ihrer Bedenken hinsichtlich des Potenzials von KI-generierten Inhalten, Schaden anzurichten.

Die Situation unterstreicht die Herausforderungen bei der Regulierung sich schnell entwickelnder KI-Technologien. Da KI-Modelle immer ausgefeilter werden, wird es zunehmend schwieriger, die Erstellung schädlicher Inhalte zu erkennen und zu verhindern. Dies erfordert einen vielschichtigen Ansatz, der technologische Lösungen, wie z. B. KI-gestützte Erkennungswerkzeuge, sowie regulatorische Rahmenbedingungen und Kampagnen zur Sensibilisierung der Öffentlichkeit umfasst.

Die Debatte um X und Grok spiegelt eine breitere Diskussion über die Verantwortung von Social-Media-Plattformen im Zeitalter der KI wider. Kritiker argumentieren, dass Plattformen die Pflicht haben, den Missbrauch ihrer Technologien zu verhindern und Nutzer vor Schaden zu schützen. Befürworter der Meinungsfreiheit warnen jedoch vor übermäßig restriktiven Vorschriften, die Innovationen ersticken und die freie Meinungsäußerung einschränken könnten.

Ofcom prüft derzeit die Situation und erwägt seine Optionen. Die Entscheidung der Regulierungsbehörde wird wahrscheinlich erhebliche Auswirkungen auf die Zukunft der KI-Regulierung im Vereinigten Königreich haben und könnte einen Präzedenzfall für andere Länder schaffen, die mit ähnlichen Herausforderungen zu kämpfen haben. Die nächsten Schritte umfassen die Sammlung von Beweismitteln durch Ofcom, die Konsultation von Experten und die Zusammenarbeit mit X, um die Bedenken der Regierung auszuräumen. Der Ausgang dieses Prozesses bleibt ungewiss, aber es ist klar, dass das Thema KI-generierte Inhalte und ihr Schadenspotenzial weiterhin ein wichtiger Schwerpunkt für Regulierungsbehörden und politische Entscheidungsträger sein wird.