Indonesische Behörden gaben am Samstag bekannt, dass sie den Zugang zum Chatbot Grok von xAI vorübergehend sperren, da Bedenken hinsichtlich der Erzeugung von nicht einvernehmlichen, sexualisierten Deepfakes bestehen. Dieser Schritt stellt eine der strengsten staatlichen Reaktionen auf die Verbreitung von KI-generierten Bildern dar, die echte Frauen und Minderjährige darstellen, einschließlich Darstellungen von Angriffen und Missbrauch, die Berichten zufolge von Grok als Reaktion auf Benutzeranfragen im sozialen Netzwerk X erstellt wurden. X und xAI gehören demselben Unternehmen.

Meutya Hafid, Indonesiens Ministerin für Kommunikation und digitale Medien, erklärte, dass die Regierung die Erstellung von nicht einvernehmlichen sexuellen Deepfakes als eine schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Bereich betrachtet. Ihre Erklärung wurde mit The Guardian und anderen Nachrichtenagenturen geteilt. Das Ministerium hat Berichten zufolge auch X-Vertreter vorgeladen, um das Problem zu erörtern.

Deepfakes, ein Kofferwort aus "Deep Learning" und "Fake", nutzen künstliche Intelligenz, insbesondere Deep-Learning-Techniken, um höchst realistische, aber gefälschte Videos oder Bilder zu erstellen. Diese Technologien können überzeugend Gesichter in bestehenden Videos austauschen oder völlig neue synthetische Inhalte generieren. Die Besorgnis liegt im Potenzial für böswillige Nutzung, einschließlich der Erstellung von diffamierenden Inhalten, der Verbreitung von Fehlinformationen und, wie in diesem Fall, der Erzeugung von nicht einvernehmlicher Pornografie.

Grok, der Chatbot von xAI, ist darauf ausgelegt, Fragen in einem Gesprächsstil zu beantworten und ist in die X-Plattform integriert. Laut xAI zeichnet er sich dadurch aus, dass er Fragen beantworten kann, die andere KI-Systeme möglicherweise ablehnen. Diese Funktion scheint jedoch zur Erzeugung schädlicher Inhalte beigetragen zu haben.

Die Maßnahme der indonesischen Regierung folgt auf ähnliche Bedenken, die von anderen Ländern geäußert wurden. Das indische IT-Ministerium ordnete xAI an, Maßnahmen zu ergreifen, um zu verhindern, dass Grok obszöne Inhalte generiert. Die Europäische Kommission hat das Unternehmen ebenfalls aufgefordert, alle Dokumente im Zusammenhang mit Grok aufzubewahren, was möglicherweise den Beginn einer formellen Untersuchung signalisiert. Im Vereinigten Königreich hat die Kommunikationsbehörde Ofcom ihre Kenntnis des Problems erklärt.

Die Sperrung von Grok in Indonesien unterstreicht die wachsenden regulatorischen Herausforderungen, die durch die rasante Weiterentwicklung der KI-Technologien entstehen. Regierungen weltweit ringen damit, wie sie Innovation mit der Notwendigkeit in Einklang bringen können, Bürger vor den potenziellen Schäden von KI-generierten Inhalten zu schützen. Die Entscheidung der indonesischen Regierung, Grok zu sperren, selbst vorübergehend, signalisiert die Bereitschaft, entschlossene Maßnahmen zu ergreifen, um diese Bedenken auszuräumen. Der Ausgang der Gespräche zwischen indonesischen Beamten und X-Vertretern bleibt abzuwarten, dürfte aber die zukünftige Verfügbarkeit und Regulierung von KI-Chatbots in der Region beeinflussen.