Malaysia und Indonesien blockieren Grok AI-Chatbot wegen sexuell expliziter Deepfakes
Malaysia und Indonesien haben den Zugang zu Grok, dem Chatbot für künstliche Intelligenz (KI) auf Elon Musks X-Plattform, aufgrund von Bedenken hinsichtlich seiner Fähigkeit, sexuell explizite Deepfakes zu generieren, blockiert. Die südostasiatischen Länder sind die ersten weltweit, die das KI-Tool verbieten, und führen den potenziellen Missbrauch bei der Erstellung pornografischer und nicht einvernehmlicher Bilder an, insbesondere unter Beteiligung von Frauen und Kindern.
Die Entscheidung folgt auf einen Anstieg von KI-generierten Bildern auf X, die oft reale Frauen und Minderjährige in sexualisierten und manchmal gewalttätigen Kontexten darstellen, ausgelöst durch Benutzeranfragen an Grok, so TechCrunch. Grok ermöglicht es Benutzern, Bilder zu generieren, und die jüngste Nutzung umfasste die Bearbeitung von Bildern realer Personen, um sie in freizügiger Kleidung zu zeigen.
Indonesiens Ministerin für Kommunikation und Digitales, Meutya Hafid, erklärte, dass die Regierung die Praxis nicht einvernehmlicher sexueller Deepfakes als eine schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum ansieht, so eine Erklärung, die mit dem Guardian und anderen Publikationen geteilt wurde. Das Ministerium hat Berichten zufolge auch X-Beamte vorgeladen, um die Angelegenheit zu besprechen.
Die BBC hat die Grok-Plattform um eine Stellungnahme gebeten. Elon Musk hatte zuvor erklärt, dass Kritiker seiner Plattform nach "irgendeiner Entschuldigung für Zensoren" suchen.
X und xAI gehören zum selben Unternehmen.
Discussion
Join the conversation
Be the first to comment