Indiens IT-Ministerium hat Elon Musks X angewiesen, unverzüglich technische und verfahrenstechnische Änderungen an seinem KI-Chatbot Grok vorzunehmen, nachdem das Tool obszöne Inhalte, einschließlich KI-veränderter Bilder von Frauen, generiert hatte. Die am Freitag erlassene Anordnung weist X an, Grok daran zu hindern, Inhalte zu generieren, die Nacktheit, Sexualisierung, sexuell eindeutiges Material oder andere rechtswidrige Inhalte beinhalten.

Das Ministerium gab X 72 Stunden Zeit, um einen Bericht über die ergriffenen Maßnahmen vorzulegen, in dem die Schritte zur Verhinderung des Hostings oder der Verbreitung von Inhalten aufgeführt sind, die nach indischem Recht als obszön, pornografisch, vulgär, unanständig, sexuell eindeutig, pädophil oder anderweitig verboten gelten. TechCrunch überprüfte die Anordnung, in der gewarnt wurde, dass die Nichteinhaltung die Safe-Harbor-Bestimmungen von X gefährden könnte, d. h. die rechtliche Immunität von der Haftung für nutzergenerierte Inhalte nach indischem Recht.

Die Maßnahme folgt auf Bedenken von Nutzern, die Beispiele dafür teilten, wie Grok dazu aufgefordert wurde, Bilder von Personen, hauptsächlich Frauen, so zu verändern, dass sie den Eindruck erwecken, sie würden Bikinis tragen. Die indische Parlamentarierin Priyanka Chaturvedi reichte eine formelle Beschwerde ein, nachdem diese Fälle bekannt geworden waren.

Grok, der KI-Chatbot von X, wurde entwickelt, um Fragen zu beantworten und Texte in einem Konversationsstil zu generieren. Er basiert auf einem großen Sprachmodell (LLM), einer Art künstlicher Intelligenz, die Deep-Learning-Techniken verwendet, um menschenähnlichen Text zu verstehen und zu generieren. LLMs werden mit riesigen Datensätzen aus Text und Code trainiert, wodurch sie in der Lage sind, eine Vielzahl von Aufgaben zu erfüllen, darunter Sprachübersetzung, Textzusammenfassung und Inhaltserstellung. LLMs können jedoch auch anfällig für die Generierung von voreingenommenen, beleidigenden oder schädlichen Inhalten sein, wenn sie nicht ordnungsgemäß kontrolliert und überwacht werden.

Die Direktive der indischen Regierung unterstreicht die wachsenden Bedenken hinsichtlich der verantwortungsvollen Entwicklung und des Einsatzes von KI-Technologien. Da KI-Modelle immer ausgefeilter werden, ist es von entscheidender Bedeutung, sicherzustellen, dass sie mit gesellschaftlichen Werten und rechtlichen Rahmenbedingungen übereinstimmen. Die Anordnung des IT-Ministeriums unterstreicht die Bedeutung der Implementierung von Schutzmaßnahmen, um den Missbrauch von KI zur Generierung schädlicher oder illegaler Inhalte zu verhindern.

X hat sich noch nicht öffentlich zu der Anordnung geäußert. Die Reaktion des Unternehmens und die Maßnahmen, die es ergreift, um die von der indischen Regierung geäußerten Bedenken auszuräumen, werden von der Technologiebranche und den Aufsichtsbehörden weltweit genau beobachtet werden. Das Ergebnis könnte einen Präzedenzfall dafür schaffen, wie KI-Plattformen reguliert und für die von ihren Systemen generierten Inhalte zur Rechenschaft gezogen werden. Die nächsten Schritte umfassen die Einreichung des Berichts über die ergriffenen Maßnahmen durch X innerhalb der vorgegebenen Frist, woraufhin das IT-Ministerium die Wirksamkeit der implementierten Maßnahmen bewerten wird.