Indiens IT-Ministerium hat Elon Musks X angewiesen, unverzüglich technische und verfahrenstechnische Änderungen an seinem KI-Chatbot Grok vorzunehmen, nachdem Nutzer und Gesetzgeber die Generierung obszöner Inhalte gemeldet hatten. Die am Freitag erlassene Anordnung weist X an, Grok daran zu hindern, Inhalte mit Nacktheit, Sexualisierung, sexuell eindeutigem Material oder anderen rechtswidrigen Inhalten zu generieren.

Das Ministerium gab X 72 Stunden Zeit, um einen Bericht über die ergriffenen Maßnahmen vorzulegen, in dem die Schritte aufgeführt sind, die unternommen wurden, um das Hosten oder die Verbreitung von Inhalten zu verhindern, die nach indischem Recht als obszön, pornografisch, vulgär, unanständig, sexuell eindeutig, pädophil oder anderweitig verboten gelten. TechCrunch überprüfte die Anordnung, in der gewarnt wurde, dass die Nichteinhaltung die Safe-Harbor-Bestimmungen von X gefährden könnte, die einen rechtlichen Schutz vor der Haftung für von Nutzern generierte Inhalte nach indischem Recht bieten.

Die Maßnahme folgt auf Bedenken von Nutzern, die Beispiele dafür teilten, wie Grok dazu aufgefordert wurde, Bilder von Personen, hauptsächlich Frauen, so zu verändern, dass sie den Anschein erweckten, Bikinis zu tragen. Die indische Parlamentarierin Priyanka Chaturvedi reichte eine formelle Beschwerde ein, nachdem diese Fälle bekannt geworden waren.

Grok, der KI-Chatbot von X, wurde entwickelt, um Fragen zu beantworten und Texte in einem Gesprächsstil zu generieren. Er nutzt ein großes Sprachmodell (LLM), eine Art Algorithmus der künstlichen Intelligenz, der mit riesigen Mengen an Textdaten trainiert wurde, um menschenähnliche Sprache zu verstehen und zu generieren. Der Vorfall verdeutlicht die Herausforderungen bei der Verhinderung der Generierung unangemessener oder schädlicher Inhalte durch KI-Modelle, selbst bei vorhandenen Sicherheitsmaßnahmen.

Die Direktive der indischen Regierung unterstreicht die zunehmende Kontrolle von KI-Plattformen und die Notwendigkeit robuster Richtlinien zur Inhaltsmoderation. Der in der Anordnung erwähnte "Safe Harbor"-Schutz ist ein kritischer Aspekt des Internetrechts, der Plattformen vor der Haftung für von Nutzern generierte Inhalte schützt, solange sie bestimmte Richtlinien einhalten und Maßnahmen gegen illegale Inhalte ergreifen, wenn sie benachrichtigt werden. Der Verlust dieses Schutzes könnte X rechtlichen Anfechtungen und finanziellen Strafen aussetzen.

Die Anordnung des IT-Ministeriums signalisiert eine feste Haltung zur Inhaltsregulierung und zum verantwortungsvollen Einsatz von KI-Technologien in Indien. Das Ergebnis des Berichts von X über die ergriffenen Maßnahmen und die anschließenden umgesetzten Maßnahmen werden wahrscheinlich einen Präzedenzfall für andere in dem Land tätige KI-Plattformen schaffen. Der Vorfall wirft auch umfassendere Fragen zu den ethischen Erwägungen und den gesellschaftlichen Auswirkungen von KI-generierten Inhalten auf und regt zu laufenden Diskussionen zwischen politischen Entscheidungsträgern, Technologieunternehmen und der Öffentlichkeit an.