Kaliforniens Generalstaatsanwalt Rob Bonta hat eine Untersuchung gegen Elon Musks KI-Modell Grok eingeleitet, da Bedenken hinsichtlich der Erstellung und Verbreitung von sexuell expliziten KI-Deepfakes bestehen. Die am Mittwoch angekündigte Untersuchung konzentriert sich auf Material, das angeblich von xAI, dem Unternehmen, das Grok entwickelt, produziert und online gestellt wurde.

Bonta erklärte, die "Lawine von Berichten über das nicht einvernehmliche, sexuell explizite Material, das xAI in den letzten Wochen produziert und online gestellt hat, ist schockierend". Die Untersuchung wirft kritische Fragen zur KI-Sicherheit und zur Verantwortung der Entwickler bei der Verhinderung des Missbrauchs der Technologie auf.

Die Untersuchung unterstreicht das Potenzial von KI, für böswillige Zwecke eingesetzt zu werden, und löst Diskussionen über Regulierung und ethische Richtlinien zur Minderung der mit immer ausgefeilteren KI-Technologien verbundenen Risiken aus. Diese Entwicklung kommt zu einem Zeitpunkt, an dem der britische Premierminister Sir Keir Starmer vor möglichen Maßnahmen gegen X, ehemals Twitter, warnt, das ebenfalls Musk gehört.

xAI hat zuvor erklärt, dass "jeder, der Grok benutzt oder dazu auffordert, illegale Inhalte zu erstellen, die gleichen Konsequenzen tragen wird, als ob er illegale Inhalte hochladen würde". Die Untersuchung des kalifornischen Generalstaatsanwalts ist noch nicht abgeschlossen.