Indiens IT-Ministerium hat Elon Musks Social-Media-Plattform X angewiesen, unverzüglich technische und verfahrenstechnische Änderungen an seinem KI-Chatbot Grok vorzunehmen, nachdem das Tool obszöne Inhalte generiert hatte, darunter KI-veränderte Bilder von Frauen. Die am Freitag erlassene Anordnung weist X an, Grok daran zu hindern, Inhalte mit Nacktheit, Sexualisierung, sexuell eindeutigem Material oder anderen rechtswidrigen Inhalten zu generieren.

Das Ministerium gab X 72 Stunden Zeit, um einen Bericht über die ergriffenen Maßnahmen vorzulegen, in dem die Schritte aufgeführt sind, die unternommen wurden, um das Hosten oder Verbreiten von Inhalten zu verhindern, die nach indischem Recht als obszön, pornografisch, vulgär, unanständig, sexuell eindeutig, pädophil oder anderweitig verboten gelten. TechCrunch überprüfte die Anordnung, die davor warnte, dass die Nichteinhaltung die Safe-Harbor-Bestimmungen von X gefährden könnte, die nach indischem Recht eine rechtliche Immunität von der Haftung für nutzergenerierte Inhalte gewähren.

Die Maßnahme folgt auf Bedenken von Nutzern, die Beispiele dafür teilten, wie Grok dazu aufgefordert wurde, Bilder von Personen, hauptsächlich Frauen, so zu verändern, dass sie Bikinis zu tragen scheinen. Die indische Parlamentarierin Priyanka Chaturvedi reichte eine formelle Beschwerde ein, nachdem diese Fälle bekannt geworden waren.

Grok, der KI-Chatbot von X, ist darauf ausgelegt, Fragen zu beantworten und Texte in einer konversationellen Art und Weise zu generieren. Er nutzt ein großes Sprachmodell (LLM), eine Art Algorithmus für künstliche Intelligenz, der mit riesigen Mengen an Textdaten trainiert wurde, um menschenähnlichen Text zu verstehen und zu generieren. Der Vorfall verdeutlicht die Herausforderungen bei der Kontrolle der Ausgabe von LLMs, die manchmal unbeabsichtigte oder schädliche Inhalte produzieren können.

Die Richtlinie der indischen Regierung unterstreicht die zunehmende Kontrolle von KI-generierten Inhalten und die Verantwortung von Plattformen, die solche Technologien einsetzen. Die Safe-Harbor-Bestimmungen, die in Abschnitt 79 des indischen Informationstechnologiegesetzes verankert sind, schützen Vermittler wie X vor der Haftung für nutzergenerierte Inhalte, sofern sie bestimmte Richtlinien einhalten und rechtswidrige Inhalte nach Benachrichtigung unverzüglich bearbeiten.

Die Anordnung des IT-Ministeriums signalisiert eine mögliche Verschiebung der regulatorischen Landschaft für KI-Plattformen in Indien. Die Regierung erwägt aktiv neue Vorschriften, um die Herausforderungen der KI anzugehen, einschließlich Fragen im Zusammenhang mit Voreingenommenheit, Fehlinformationen und schädlichen Inhalten. Der Ausgang dieser Situation könnte einen Präzedenzfall dafür schaffen, wie KI-Plattformen in Indien reguliert werden, und möglicherweise ähnliche Vorschriften in anderen Ländern beeinflussen. X hat sich noch nicht öffentlich zu der Anordnung geäußert. Die Reaktion des Unternehmens und die Maßnahmen, die es ergreift, um die von der indischen Regierung geäußerten Bedenken auszuräumen, werden von der Technologiebranche und den politischen Entscheidungsträgern gleichermaßen genau beobachtet werden.