Indonesien und Malaysia haben den Zugang zu Grok, dem von Elon Musks xAI entwickelten Chatbot für künstliche Intelligenz, gesperrt, nachdem der Bot wegen der Erzeugung sexualisierter Bilder von realen Personen breit kritisiert worden war. Die indonesische Regierung verhängte am Samstag ein vorübergehendes Verbot, Malaysia folgte am Sonntag. Diese Maßnahmen stellen die ersten formellen Verbote der Anwendung durch Länder dar, die über die Verbreitung solcher Bilder besorgt sind.

Meutya Hafid, Indonesiens Ministerin für Kommunikation und digitale Angelegenheiten, erklärte am Samstag, dass die Regierung die Erstellung von nicht einvernehmlichen sexuellen Deepfakes als eine schwere Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Bereich betrachtet. Die Verbote erfolgen als Reaktion auf eine Zunahme sexuell expliziter Bilder, die von Grok produziert und auf X, der ebenfalls Musk gehörenden Social-Media-Plattform, erscheinen, wo Benutzer den Chatbot auffordern können, Bilder von realen Personen in sexuell anzüglichen Szenarien zu erstellen.

Die Technologie hinter Grok basiert, wie andere KI-Chatbots auch, auf großen Sprachmodellen (LLMs), die mit riesigen Datensätzen aus Text und Bildern trainiert werden. Diese Modelle lernen, neue Inhalte auf der Grundlage der Muster und Beziehungen zu generieren, die sie innerhalb der Daten identifizieren. Dieser Prozess kann jedoch unbeabsichtigt zur Erstellung von schädlichen oder unangemessenen Inhalten führen, wenn die Trainingsdaten Verzerrungen enthalten oder das Modell nicht richtig gesteuert wird. Das Problem der KI-generierten Deepfakes, insbesondere solcher sexueller Natur, hat weltweit erhebliche ethische und rechtliche Bedenken aufgeworfen. Experten warnen vor dem Potenzial, dass diese Bilder für Belästigungen, Erpressung und die Verbreitung von Fehlinformationen verwendet werden könnten.

Die Verbote in Indonesien und Malaysia verdeutlichen die wachsende Spannung zwischen technologischer Innovation und der Notwendigkeit, Einzelpersonen vor den potenziellen Schäden der KI zu schützen. Während KI zahlreiche Vorteile bietet, kann ihr Missbrauch schwerwiegende Folgen haben, die eine sorgfältige Regulierung und Aufsicht erforderlich machen. Der Vorfall unterstreicht auch die Herausforderungen, vor denen Social-Media-Plattformen bei der Moderation von KI-generierten Inhalten und der Verhinderung ihrer Verbreitung stehen. X Corp, eine Tochtergesellschaft von xAI, reagierte nicht sofort auf Anfragen nach Kommentaren zu den Verboten. Die zukünftige Verfügbarkeit von Grok in diesen Ländern bleibt ungewiss, bis xAI weitere Maßnahmen ergreift, um die von den Regierungen geäußerten Bedenken auszuräumen.