Regierungsbeamte fordern, dass Elon Musks Social-Media-Plattform X die Verbreitung von, wie sie es nennen, "entsetzlichen" Deepfakes angeht, die von Grok, dem Chatbot mit künstlicher Intelligenz der Plattform, generiert werden. Im Mittelpunkt der Bedenken steht das Potenzial dieser KI-generierten Videos und Bilder, Fehlinformationen zu verbreiten und Rufschäden zu verursachen.

Die am Mittwoch veröffentlichte Forderung der Regierung fordert X auf, strengere Schutzmaßnahmen gegen die Erstellung und Verbreitung von Deepfakes mit Grok zu implementieren. Beamte verwiesen insbesondere auf Fälle, in denen Grok verwendet wurde, um realistische, aber erfundene Videos von Persönlichkeiten des öffentlichen Lebens zu erstellen, die falsche Aussagen machten. Diese Deepfakes stellen ihrer Ansicht nach eine erhebliche Bedrohung für die Integrität des öffentlichen Diskurses dar und könnten zur Manipulation von Wahlen oder zur Anstiftung zu Gewalt verwendet werden.

"Die Technologie ist so weit fortgeschritten, dass es für den Durchschnittsbürger immer schwieriger wird, zwischen echten und gefälschten Inhalten zu unterscheiden", sagte ein Sprecher der Federal Trade Commission (FTC) in einer veröffentlichten Erklärung. "X hat die Verantwortung sicherzustellen, dass seine KI-Tools nicht dazu verwendet werden, die Öffentlichkeit zu täuschen und irrezuführen."

Grok, das von Musks KI-Firma xAI im November 2023 auf den Markt gebracht wurde, ist ein großes Sprachmodell (LLM), das entwickelt wurde, um Fragen in einem humorvollen und rebellischen Stil zu beantworten und dabei auf Echtzeitdaten von X zurückzugreifen. Es ist derzeit für X Premium+ Abonnenten verfügbar. Die KI basiert auf einer proprietären Architektur und wurde mit einem riesigen Datensatz aus Text und Code trainiert, der es ihr ermöglicht, Texte zu generieren, Sprachen zu übersetzen, verschiedene Arten von kreativen Inhalten zu schreiben und Fragen auf informative Weise zu beantworten. Seine Fähigkeit, auf Echtzeitinformationen von X zuzugreifen und diese zu verarbeiten, hat jedoch in Verbindung mit seinen generativen Fähigkeiten Bedenken hinsichtlich seines Missbrauchspotenzials geweckt.

Das Problem verdeutlicht die wachsende Herausforderung, KI-generierte Inhalte auf Social-Media-Plattformen zu regulieren. Deepfakes, die mit ausgefeilten Techniken des maschinellen Lernens erstellt werden, können das Aussehen und die Stimme einer Person überzeugend nachahmen, was es schwierig macht, ihre betrügerische Natur zu erkennen. Die Branche ringt damit, wie die Vorteile der KI-Innovation mit der Notwendigkeit in Einklang gebracht werden können, sich vor ihren potenziellen Schäden zu schützen.

"Wir arbeiten aktiv an der Verbesserung unserer Erkennungs- und Präventionsmechanismen für Deepfakes", sagte ein Vertreter von X in einer E-Mail-Antwort. "Wir sind bestrebt sicherzustellen, dass X eine sichere und zuverlässige Plattform für unsere Nutzer bleibt." Das Unternehmen erklärte, dass es verschiedene technische Lösungen erforscht, darunter das Anbringen von Wasserzeichen auf KI-generierten Inhalten und die Implementierung strengerer Richtlinien zur Inhaltsmoderation.

Experten sagen, dass eine effektive Deepfake-Erkennung einen vielschichtigen Ansatz erfordert, einschließlich fortschrittlicher KI-Algorithmen, die Video und Audio auf verräterische Anzeichen von Manipulation analysieren können, sowie menschlicher Aufsicht zur Überprüfung markierter Inhalte. Die Herausforderung besteht darin, der sich schnell entwickelnden Technologie einen Schritt voraus zu sein, da Deepfake-Techniken immer ausgefeilter werden.

Die Forderung der Regierung setzt X unter Druck, konkrete Maßnahmen zur Lösung des Problems zu ergreifen. Andernfalls drohen behördliche Kontrollen und mögliche rechtliche Schritte. Die FTC ist befugt, Unternehmen zu untersuchen und strafrechtlich zu verfolgen, die sich an irreführenden oder unlauteren Praktiken beteiligen, einschließlich der Verbreitung von Fehlinformationen. Die Situation ist noch nicht abgeschlossen, und es werden weitere Entwicklungen erwartet, da X auf die Bedenken der Regierung reagiert und neue Schutzmaßnahmen implementiert.