Elon Musks KI-Firma X. Corp hat den Zugang zur KI-Bildgenerierungsfunktion von Grok auf zahlende Abonnenten der X-Plattform beschränkt, nachdem es breite Kritik dafür gegeben hatte, dass Nutzer sexualisierte und Nacktbilder erstellen konnten, darunter solche von Frauen und Kindern. Die Änderung, die am Freitag in Antworten an Nutzer auf X angekündigt wurde, beschränkt die Bildgenerierungs- und Bearbeitungsfunktionen auf zahlende Abonnenten. Diese Einschränkungen gelten jedoch nicht für die Grok-App, die zum Zeitpunkt der Ankündigung weiterhin allen Nutzern erlaubte, Bilder ohne Abonnement zu generieren.

Anfangs erlaubte die Bildgenerierungsfunktion von Grok, die tägliche Nutzungslimits hatte, Nutzern, Bilder hochzuladen und Bearbeitungen anzufordern, einschließlich der Erstellung von sexualisierten oder Nacktversionen. Diese Funktionalität führte zu einem Anstieg von nicht einvernehmlichen sexualisierten Bildern von Kindern, Schauspielern, Models und Persönlichkeiten des öffentlichen Lebens, was internationale Verurteilung auslöste.

X und Musk verurteilten öffentlich den Missbrauch des Tools und erklärten, dass das Unternehmen seine Richtlinien gegen das Posten illegaler Inhalte auf der Social-Media-Plattform einhalten werde. "Jeder, der Grok verwendet, um illegale Inhalte zu erstellen, wird die gleichen Konsequenzen erleiden, als ob er illegale Inhalte hochlädt", erklärte X.

Die Entscheidung, den Zugang auf zahlende Abonnenten zu beschränken, spiegelt den Versuch wider, den Missbrauch des KI-Bildgenerierungstools zu mindern und sich an die Inhaltsrichtlinien von X anzupassen. Der Schritt verdeutlicht auch die anhaltenden Herausforderungen, vor denen KI-Entwickler bei der Verhinderung der Erstellung schädlicher oder illegaler Inhalte stehen. Der Vorfall unterstreicht das Missbrauchspotenzial der KI-Bildgenerierungstechnologie und die Bedeutung robuster Schutzmaßnahmen und Inhaltsmoderationsrichtlinien. Das Unternehmen hat noch keine Details darüber veröffentlicht, wie es diese neuen Beschränkungen überwachen und durchsetzen wird. Es bleibt abzuwarten, ob die Beschränkung die Erstellung unangemessener Inhalte wirksam eindämmen wird und welche weiteren Maßnahmen X ergreifen wird, um das Problem anzugehen.