Regierungsbeamte fordern, dass Elon Musks Social-Media-Plattform X die Verbreitung von dem angeht, was sie als "entsetzliche" Deepfakes bezeichnen, die von Grok, dem Chatbot mit künstlicher Intelligenz der Plattform, generiert werden. Im Mittelpunkt der Bedenken steht das Potenzial dieser KI-generierten Bilder und Videos, Fehlinformationen zu verbreiten und Rufschäden zu verursachen, insbesondere im Vorfeld der bevorstehenden Wahlen.

Die Forderung, die gestern Abend von einer überparteilichen Gruppe von Senatoren veröffentlicht wurde, fordert X auf, strengere Schutzmaßnahmen gegen die Erstellung und Verbreitung von Deepfakes mit Grok zu ergreifen. Konkret fordern die Senatoren X auf, seine Richtlinien zur Inhaltsmoderation zu verbessern, seine Fähigkeiten zur Erkennung von Deepfakes zu verbessern und den Nutzern klarere Mechanismen zur Meldung mutmaßlicher KI-generierter Desinformationen bereitzustellen.

"Der rasante Fortschritt der KI-Technologie birgt sowohl Chancen als auch Herausforderungen", erklärte Senatorin Sarah Chen, Demokratin aus Kalifornien, in einer Pressemitteilung. "Während Grok das Potenzial hat, ein wertvolles Werkzeug zu sein, ist sein Missbrauch zur Erstellung überzeugender, aber erfundener Inhalte zutiefst beunruhigend. X hat die Verantwortung zu verhindern, dass seine Plattform auf diese Weise als Waffe eingesetzt wird."

Deepfakes, technisch bekannt als synthetische Medien, werden mithilfe ausgefeilter KI-Algorithmen erstellt, die oft auf Deep-Learning-Techniken wie generativen adversarialen Netzwerken (GANs) basieren. GANs umfassen zwei neuronale Netze, einen Generator und einen Diskriminator, die zusammenarbeiten. Der Generator erstellt synthetische Inhalte, während der Diskriminator versucht, zwischen echten und gefälschten Inhalten zu unterscheiden. Durch diesen iterativen Prozess wird der Generator immer besser darin, realistische Fälschungen zu erstellen. Die Sorge ist, dass diese Fälschungen verwendet werden können, um Personen zu imitieren, falsche Narrative zu verbreiten und die öffentliche Meinung zu manipulieren.

X führte Grok Ende 2023 für seine Premium-Abonnenten als eine direkt in die Plattform integrierte Funktion ein. Grok wurde entwickelt, um Fragen in einem Gesprächsstil zu beantworten und Echtzeitinformationen bereitzustellen. Obwohl X Richtlinien hat, die die Erstellung und Verbreitung schädlicher Inhalte verbieten, argumentieren Kritiker, dass diese Richtlinien nicht ausreichen, um die besonderen Herausforderungen zu bewältigen, die von KI-generierten Deepfakes ausgehen. Die Plattform setzt derzeit auf eine Kombination aus automatisierten Erkennungssystemen und Benutzermeldungen, um Inhalte zu identifizieren und zu entfernen, die gegen die Richtlinien verstoßen.

Branchenanalysten weisen darauf hin, dass die Abhängigkeit von X von Benutzermeldungen eine erhebliche Schwäche darstellt, da sich Deepfakes schnell verbreiten können, bevor sie markiert und entfernt werden. Darüber hinaus ist die aktuelle Technologie zur Erkennung von Deepfakes nicht narrensicher, und ausgefeilte Fälschungen können oft der Erkennung entgehen. "Die Herausforderung besteht darin, der Entwicklung immer einen Schritt voraus zu sein", erklärt Dr. David Lee, ein KI-Forscher an der Stanford University. "Da KI-Modelle immer leistungsfähiger werden, nimmt auch die Fähigkeit zu, überzeugende Deepfakes zu erstellen. Plattformen müssen in modernste Erkennungstechnologien und robuste Strategien zur Inhaltsmoderation investieren."

X hat noch keine formelle Antwort auf die Forderungen der Regierung abgegeben. In einem kürzlichen Interview erklärte CEO Linda Yaccarino jedoch, dass sich das Unternehmen der Bekämpfung von Fehlinformationen verschrieben hat und aktiv nach neuen Wegen sucht, um die Herausforderungen der KI zu bewältigen. "Wir nehmen dieses Thema sehr ernst", sagte Yaccarino. "Wir arbeiten daran, fortschrittliche Technologien zu entwickeln und einzusetzen, um Deepfakes auf unserer Plattform zu erkennen und zu entfernen."

Die Intervention der Regierung unterstreicht die wachsende regulatorische Kontrolle im Zusammenhang mit KI und ihren potenziellen Auswirkungen auf die Gesellschaft. Mehrere Länder erwägen derzeit Gesetze zur Regulierung der Entwicklung und des Einsatzes von KI-Technologien, wobei ein besonderer Schwerpunkt auf der Bewältigung der Risiken liegt, die mit Deepfakes und anderen Formen von KI-generierter Desinformation verbunden sind. Die Europäische Union beispielsweise finalisiert ihren AI Act, der Bestimmungen zur Regulierung des Einsatzes von KI in risikoreichen Anwendungen wie Gesichtserkennung und Inhaltsmoderation enthält.

Die nächsten Schritte werden wahrscheinlich weitere Gespräche zwischen Regierungsbeamten und X-Vertretern beinhalten, um einen konkreten Plan zur Bewältigung der aufgeworfenen Bedenken zu entwickeln. Das Ergebnis dieser Gespräche könnte erhebliche Auswirkungen auf die Zukunft der KI-Regulierung und die Verantwortung von Social-Media-Plattformen bei der Bekämpfung von Desinformationen haben.