Der Schritt erfolgt nach Kritik und behördlicher Prüfung, einschließlich einer laufenden Untersuchung der britischen Kommunikationsbehörde Ofcom, ob X gegen britische Gesetze verstoßen hat. Ofcom erklärte, die Änderung sei eine "willkommene Entwicklung", betonte jedoch, dass ihre Untersuchung "weiterhin andauert". Die Behörde fügte hinzu: "Wir arbeiten rund um die Uhr daran, dies voranzutreiben und Antworten darauf zu erhalten, was schiefgelaufen ist und was getan wird, um es zu beheben."

Technologieministerin Liz Kendall begrüßte ebenfalls die Maßnahmen der Plattform und erklärte, sie würde "erwarten, dass die Fakten durch die laufende Untersuchung von Ofcom vollständig und stichhaltig festgestellt werden".

Grok, das 2023 eingeführt wurde, ist ein in die X-Plattform integriertes KI-Tool. Die spezifischen technologischen Maßnahmen, die zur Verhinderung der Bildmanipulation implementiert wurden, wurden in der Ankündigung nicht detailliert beschrieben. Das Unternehmen gab jedoch an, dass die Maßnahmen darauf abzielen, die Fähigkeit des Grok-Kontos einzuschränken, die spezifische Bildbearbeitungsfunktion auszuführen, die Anlass zur Besorgnis gab.

Der Einsatz von KI zur Erstellung von Deepfakes, insbesondere solcher sexueller Natur, hat erhebliche ethische und rechtliche Bedenken aufgeworfen. Kritiker argumentieren, dass solche Technologien verwendet werden können, um Einzelpersonen zu belästigen, zu diffamieren und auszubeuten, was den Opfern erheblichen Schaden zufügt. Die Journalistin und Aktivistin Jess Davies hat zusammen mit anderen Aktivisten und Opfern erklärt, dass die Änderung zu spät gekommen sei, um den bereits angerichteten Schaden ungeschehen zu machen.

Die britische Regierung hatte X zuvor aufgefordert, Grok zu kontrollieren, und Beamte haben die jüngsten Maßnahmen der Plattform als eine "Bestätigung" ihrer Bemühungen bezeichnet. Der Vorfall verdeutlicht die Herausforderungen, vor denen Social-Media-Plattformen bei der Verwaltung von KI-Tools und der Verhinderung ihres Missbrauchs stehen. Die Auswirkungen dieser Entscheidung auf die Branche könnten dazu führen, dass andere Plattformen ihre KI-Sicherheitsprotokolle neu bewerten und verschärfen.