Ofcom, die britische Kommunikationsbehörde, hat eine Untersuchung gegen Elon Musks Social-Media-Plattform X, ehemals Twitter, eingeleitet, nachdem Bedenken hinsichtlich der Verbreitung von sexuell expliziten Deepfakes geäußert wurden, die von Grok, dem KI-Chatbot von X, generiert werden. Im Mittelpunkt der am Mittwoch angekündigten Untersuchung steht die Frage, ob X über angemessene Systeme verfügt, um die Erstellung und Verbreitung von KI-generierten sexuellen Inhalten, insbesondere Deepfakes, unter Verstoß gegen den Online Safety Act zu verhindern.

Der im vergangenen Jahr verabschiedete Online Safety Act verpflichtet Social-Media-Plattformen rechtlich, Nutzer vor illegalen und schädlichen Inhalten zu schützen. Ofcom ist befugt, Unternehmen bei Verstößen gegen das Gesetz mit bis zu 10 % ihres weltweiten Umsatzes zu belegen. Dies ist eine der ersten größeren Untersuchungen zu KI-generierten Inhalten im Rahmen der neuen Gesetzgebung.

Deepfakes, ein Kofferwort aus "Deep Learning" und "Fake", sind synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch das Abbild einer anderen Person ersetzt wird. Diese Technologie, die auf hochentwickelten KI-Algorithmen basiert, hat erhebliche Bedenken hinsichtlich ihres Missbrauchspotenzials geweckt, einschließlich der Erstellung von nicht einvernehmlicher Pornografie und der Verbreitung von Desinformation. Grok, der KI-Chatbot von X, wurde entwickelt, um Texte und Bilder auf der Grundlage von Benutzeranfragen zu generieren. Es sind Bedenken aufgekommen, dass Nutzer Grok ausnutzen, um realistische und sexuell explizite Deepfakes von Einzelpersonen zu erstellen, oft ohne deren Wissen oder Zustimmung.

"Der Schutz der Nutzer vor illegalen und schädlichen Inhalten im Internet hat für uns oberste Priorität", sagte ein Sprecher von Ofcom in einer Erklärung. "Wir untersuchen, ob X ausreichende Maßnahmen ergriffen hat, um die Risiken zu mindern, die von KI-generierten sexuellen Deepfakes auf seiner Plattform ausgehen. Dies ist ein neuartiger und sich schnell entwickelnder Bereich, und wir müssen sicherstellen, dass Online-Plattformen ihre Sicherheitsmaßnahmen entsprechend anpassen."

X hat noch keine offizielle Stellungnahme zu der Ofcom-Untersuchung veröffentlicht. Elon Musk hat jedoch bereits zuvor sein Engagement für die Bekämpfung des Missbrauchs von KI auf der Plattform erklärt. Das Unternehmen hat einige Maßnahmen ergriffen, um KI-generierte Inhalte, die gegen seine Richtlinien verstoßen, zu erkennen und zu entfernen, aber Kritiker argumentieren, dass diese Maßnahmen unzureichend sind.

Die Untersuchung verdeutlicht die wachsenden Herausforderungen bei der Regulierung von KI-generierten Inhalten und das Missbrauchspotenzial dieser Technologien. Experten betonen die Notwendigkeit robuster Schutzmaßnahmen und ethischer Richtlinien, um die Erstellung und Verbreitung schädlicher Deepfakes zu verhindern. "Diese Untersuchung ist ein entscheidender Schritt, um Social-Media-Plattformen für die Inhalte, die auf ihren Seiten gehostet werden, zur Rechenschaft zu ziehen", sagte Dr. Emily Carter, Professorin für KI-Ethik an der Universität Oxford. "Sie sendet eine klare Botschaft, dass Unternehmen die mit KI-generierten Inhalten verbundenen Risiken proaktiv angehen und die Nutzer vor Schaden schützen müssen."

Der Ausgang der Ofcom-Untersuchung könnte erhebliche Auswirkungen auf X und andere Social-Media-Plattformen haben, die KI nutzen. Sie könnte zu strengeren Vorschriften und einer verstärkten Kontrolle von KI-generierten Inhalten führen und möglicherweise die Zukunft der Online-Sicherheit und der Inhaltsmoderation prägen. Ofcom wird seine Ergebnisse voraussichtlich in den kommenden Monaten veröffentlichen. Die Untersuchung wird sich wahrscheinlich auf die Richtlinien von X zur Inhaltsmoderation, seine Fähigkeiten zur KI-Erkennung und seine Reaktion auf Nutzermeldungen über Deepfake-Inhalte konzentrieren.