Der Schritt erfolgt aufgrund weitverbreiteter Bedenken hinsichtlich des Potenzials für sexualisierte KI-Deepfakes, die von dem Tool generiert werden könnten. Grok, das 2023 auf den Markt kam, ist ein KI-Assistent, der in die X-Plattform integriert ist. Die spezifischen technischen Mechanismen, die implementiert wurden, um die Bildveränderungen zu verhindern, wurden von X nicht offengelegt.

Die britische Regierung reagierte auf die Änderung und bezeichnete sie als "Bestätigung" ihrer früheren Forderungen an X, Grok zu kontrollieren. Ofcom, die britische Kommunikationsbehörde, bezeichnete die Entwicklung als "willkommen", betonte jedoch, dass ihre Untersuchung, ob X gegen britische Gesetze verstoßen hat, "weiterhin andauert". Ofcom erklärte, man arbeite "rund um die Uhr daran, dies voranzutreiben und Antworten darauf zu erhalten, was schiefgelaufen ist und was getan wird, um das Problem zu beheben". Technologieministerin Liz Kendall begrüßte den Schritt ebenfalls und fügte hinzu, dass sie "erwarte, dass die Fakten durch die laufende Untersuchung von Ofcom vollständig und stichhaltig festgestellt werden".

Aktivisten und Opfer argumentieren, dass die implementierten Änderungen nicht ausreichen, um den bereits durch die Technologie verursachten Schaden zu beheben. Die Journalistin und Aktivistin Jess Davies, die sich zu diesem Thema geäußert hat, hat sich noch nicht zu den spezifischen Maßnahmen von X geäußert.

Der Vorfall unterstreicht die wachsenden Bedenken hinsichtlich des Missbrauchs von KI-Technologien, insbesondere bei der Erstellung von nicht einvernehmlichen intimen Bildern. Die Fähigkeit, Bilder mithilfe von KI realistisch zu verändern, wirft erhebliche ethische und rechtliche Fragen auf und fordert strengere Vorschriften und technologische Schutzmaßnahmen. Die laufende Ofcom-Untersuchung soll das Ausmaß des Problems und die Verantwortung der Social-Media-Plattformen bei der Verhinderung des Missbrauchs von KI-Tools weiter beleuchten.