Malaysia und Indonesien blockieren Grok AI wegen sexuell expliziter Deepfakes

Malaysia und Indonesien haben den Zugang zu Grok, dem Chatbot für künstliche Intelligenz (KI) auf Elon Musks X-Plattform, aufgrund von Bedenken hinsichtlich seiner Fähigkeit, sexuell explizite Deepfakes zu generieren, blockiert. Die südostasiatischen Länder sind die ersten weltweit, die das KI-Tool verbieten, und führen das Potenzial für die Erstellung pornografischer und nicht einvernehmlicher Bilder an, die Frauen und Kinder betreffen.

Grok, das es Nutzern ermöglicht, Bilder zu generieren, wurde laut BBC kürzlich dazu verwendet, Bilder von echten Personen zu bearbeiten, um sie in freizügiger Kleidung darzustellen. Beamte beider Länder äußerten ernsthafte Bedenken hinsichtlich der Verbreitung solcher Bilder.

Indonesiens Ministerin für Kommunikation und Digitales, Meutya Hafid, erklärte laut einer Erklärung, die mit dem Guardian und anderen Publikationen geteilt wurde, dass "die Regierung die Praxis nicht einvernehmlicher sexueller Deepfakes als eine schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum ansieht". Das Ministerium hat Berichten zufolge auch X-Beamte vorgeladen, um die Angelegenheit zu besprechen.

Die Verbote stellen die bisher aggressivsten Maßnahmen von Regierungsbeamten dar, die auf eine Zunahme sexualisierter, KI-generierter Bilder reagieren, die oft echte Frauen und Minderjährige darstellen und manchmal Gewalt darstellen, die von Grok als Reaktion auf Benutzeranfragen auf X gepostet werden, so TechCrunch.

Die BBC hat die Grok-Plattform um eine Stellungnahme gebeten. Musk hatte zuvor erklärt, dass Kritiker seiner Plattform nach "irgendeiner Entschuldigung für Zensoren" suchen.