Mehrere US-Senatoren fordern von großen Technologieunternehmen, darunter X, Meta, Alphabet, Snap, Reddit und TikTok, Antworten bezüglich ihrer Bemühungen zur Bekämpfung der Verbreitung von sexualisierten Deepfakes auf ihren Plattformen. In einem Schreiben an die Führungskräfte dieser Unternehmen forderten die Senatoren den Nachweis robuster Schutzmaßnahmen und Richtlinien, die darauf abzielen, den Anstieg von KI-generierten sexuellen Darstellungen einzudämmen.

Die Senatoren ordneten außerdem an, dass die Unternehmen alle Dokumente und Informationen im Zusammenhang mit der Erstellung, Erkennung, Moderation und Monetarisierung von sexualisierten, KI-generierten Bildern sowie alle relevanten Richtlinien aufbewahren. Diese Forderung folgt auf Berichte, die hervorheben, wie einfach KI-Modelle, wie z. B. Grok (entwickelt von X und xAI), sexualisierte und Nacktbilder generieren können, darunter solche, die Frauen und Kinder darstellen.

Das Schreiben unterstreicht die Besorgnis, dass bestehende Plattformschutzmaßnahmen gegen nicht einvernehmliche, sexualisierte Bilder möglicherweise unzureichend sind. "Wir erkennen an, dass viele Unternehmen Richtlinien gegen nicht einvernehmliche intime Bilder und sexuelle Ausbeutung unterhalten und dass viele KI", erklärten die Senatoren und deuteten damit an, dass die derzeitigen Maßnahmen das Problem nicht angemessen angehen.

Die Informationsanforderung erfolgt kurz nachdem X Aktualisierungen für Grok angekündigt hat, die es der KI verbieten, Bearbeitungen von realen Personen in freizügiger Kleidung zu erstellen. X schränkte außerdem die Bilderstellung und -bearbeitung über Grok auf zahlende Abonnenten ein. Diese Änderungen wurden als Reaktion auf Medienberichte implementiert, die die Fähigkeit der KI zur Generierung expliziter Inhalte detailliert beschrieben.

Deepfakes, die künstliche Intelligenz nutzen, um realistische, aber gefälschte Bilder und Videos zu erstellen, stellen eine erhebliche Herausforderung für Technologieunternehmen dar. Die Technologie kann verwendet werden, um nicht einvernehmliche intime Bilder zu generieren, was zu Online-Belästigung und Ausbeutung beiträgt. Die Anfrage der Senatoren spiegelt die wachsende Besorgnis über das Potenzial für den Missbrauch von KI in dieser Weise und die Verantwortung der Technologieunternehmen wider, diese Risiken zu mindern.

Die Senatoren fordern detaillierte Erklärungen zu den Strategien der Unternehmen zur Erkennung und Entfernung von sexualisierten Deepfakes sowie Informationen darüber, wie sie verhindern, dass die Technologie zur Erstellung und Verbreitung solcher Inhalte verwendet wird. Die angeforderte Dokumentation wird wahrscheinlich Einblicke in die technischen Herausforderungen und politischen Erwägungen geben, die mit der Bewältigung dieses Problems verbunden sind. Die nächsten Schritte werden wahrscheinlich darin bestehen, dass die Unternehmen auf die Anfragen der Senatoren antworten und möglicherweise aufgrund ihrer Antworten einer weiteren Prüfung unterzogen werden.