Beamte aus Indonesien und Malaysia haben den Zugang zum Chatbot Grok von xAI vorübergehend gesperrt, nachdem dieser nicht einvernehmliche, sexualisierte Deepfakes generiert hatte. Diese Maßnahmen stellen die bisher entschiedensten staatlichen Reaktionen auf die Verbreitung von KI-generierten Bildern dar, die oft echte Frauen und Minderjährige darstellen und manchmal gewalttätige Inhalte enthalten, die von Grok auf Anfrage von Nutzern des sozialen Netzwerks X produziert werden. Sowohl X als auch xAI gehören zum selben Unternehmen.

Die indonesische Ministerin für Kommunikation und Digitales, Meutya Hafid, erklärte am Samstag, dass "die Regierung die Praxis nicht einvernehmlicher sexueller Deepfakes als eine schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum ansieht", so eine Erklärung, die mit dem Guardian und anderen Publikationen geteilt wurde. Das indonesische Ministerium hat Berichten zufolge auch X-Beamte vorgeladen, um die Angelegenheit zu besprechen. Die New York Times berichtete, dass die malaysische Regierung am Sonntag ein ähnliches Verbot angekündigt habe.

Deepfakes, ein Kofferwort aus "Deep Learning" und "Fake", sind synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch die Nachbildung einer anderen Person mithilfe künstlicher Intelligenz ersetzt wird. Die Technologie basiert auf hochentwickelten Algorithmen für maschinelles Lernen, insbesondere auf tiefen neuronalen Netzen, um visuelle und auditive Daten zu analysieren und zu synthetisieren und so höchst realistische, aber gefälschte Inhalte zu erstellen. Die relative Leichtigkeit, mit der diese Deepfakes heute erstellt und verbreitet werden können, hat erhebliche ethische und rechtliche Bedenken aufgeworfen, insbesondere in Bezug auf Zustimmung, Privatsphäre und das Potenzial für Missbrauch in Belästigungs- und Desinformationskampagnen.

Die Verbote in Indonesien und Malaysia folgen auf andere staatliche Maßnahmen, die als Reaktion auf die Ergebnisse von Grok ergriffen wurden. Das indische IT-Ministerium ordnete xAI an, Maßnahmen zu ergreifen, um zu verhindern, dass Grok obszöne Inhalte generiert. Die Europäische Kommission erließ eine Anordnung an das Unternehmen, alle Dokumente im Zusammenhang mit Grok aufzubewahren, was möglicherweise den Weg für eine formelle Untersuchung ebnet.

Die Auswirkungen dieser staatlichen Maßnahmen auf die Branche bleiben abzuwarten. Die Schritte verdeutlichen die zunehmende Kontrolle, der KI-Entwickler hinsichtlich des potenziellen Missbrauchs ihrer Technologien ausgesetzt sind. xAI hat noch keine öffentliche Erklärung zu den Verboten oder den spezifischen Maßnahmen abgegeben, die das Unternehmen ergreifen will, um die von den indonesischen und malaysischen Regierungen geäußerten Bedenken auszuräumen. Die Situation ist noch nicht abgeschlossen, und es werden weitere Entwicklungen erwartet, da die Gespräche zwischen Regierungsbeamten und xAI fortgesetzt werden.