Ofcom, die britische Kommunikationsbehörde, hat eine Untersuchung der Social-Media-Plattform X von Elon Musk, ehemals Twitter, eingeleitet. Grund dafür sind Bedenken hinsichtlich der potenziellen Erstellung und Verbreitung von sexuellen Deepfakes, die von Grok, dem KI-Chatbot von X, generiert werden. Im Mittelpunkt der am Mittwoch angekündigten Untersuchung steht die Frage, ob X über ausreichende Schutzmaßnahmen verfügt, um zu verhindern, dass das KI-Tool zur Erstellung und Verbreitung illegaler Inhalte, insbesondere nicht einvernehmlicher intimer Bilder, verwendet wird.

Die Untersuchung wird die Einhaltung des Online Safety Act durch X prüfen, der Plattformen eine rechtliche Sorgfaltspflicht auferlegt, Nutzer vor illegalen Inhalten und Aktivitäten zu schützen. Ofcom hat die Befugnis, Unternehmen bei Verstößen gegen das Gesetz mit bis zu 10 % ihres globalen Umsatzes zu belegen. "Der Schutz der Nutzer vor illegalen Inhalten im Internet hat für uns oberste Priorität", erklärte ein Sprecher von Ofcom. "Wir untersuchen X, um zu beurteilen, ob sie ausreichende Maßnahmen ergriffen haben, um zu verhindern, dass Grok AI zur Erstellung und Verbreitung illegaler Deepfakes verwendet wird."

Deepfakes, ein Kofferwort aus "Deep Learning" und "Fake", sind synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch das Abbild einer anderen Person ersetzt wird. Diese Technologie, die auf hochentwickelten KI-Algorithmen basiert, hat erhebliche Bedenken hinsichtlich Fehlinformationen, Verletzungen der Privatsphäre und des Potenzials für böswillige Nutzung, einschließlich der Erstellung nicht einvernehmlicher Pornografie, geweckt. Grok, der KI-Chatbot von X, ist ein großes Sprachmodell (LLM), das auf einem riesigen Datensatz aus Text und Code trainiert wurde und es ihm ermöglicht, menschenähnlichen Text zu generieren, Sprachen zu übersetzen und Fragen zu beantworten. Die Sorge besteht darin, dass Nutzer Grok dazu auffordern könnten, sexuell explizite Bilder von Personen ohne deren Zustimmung zu erstellen.

Die Untersuchung verdeutlicht die wachsenden Herausforderungen bei der Regulierung von KI-generierten Inhalten und die Verantwortung von Plattformen, die diese Technologien einsetzen. Experten argumentieren, dass KI zwar zahlreiche Vorteile bietet, aber auch neue Möglichkeiten für Missbrauch eröffnet. "Der rasante Fortschritt von KI-Technologien wie Grok erfordert proaktive Maßnahmen zur Minderung potenzieller Schäden", sagte Dr. Anya Sharma, Professorin für KI-Ethik an der Universität Cambridge. "Plattformen müssen robuste Schutzmaßnahmen implementieren, um die Erstellung und Verbreitung von Deepfakes zu verhindern, insbesondere solcher, die sexuell explizit und nicht einvernehmlich sind."

X hat noch keine formelle Stellungnahme zu der Ofcom-Untersuchung abgegeben. Musk hat jedoch bereits zuvor sein Engagement für die Bekämpfung des Missbrauchs von KI auf der Plattform erklärt. Der Ausgang der Untersuchung könnte erhebliche Auswirkungen auf X und andere Social-Media-Unternehmen haben, die KI in ihre Dienste integrieren. Die Ergebnisse von Ofcom werden wahrscheinlich die Entwicklung von Regulierungsrahmen für KI-generierte Inhalte sowohl in Großbritannien als auch international beeinflussen. Die Untersuchung ist noch nicht abgeschlossen, und Ofcom wird voraussichtlich im Laufe des Verfahrens Aktualisierungen bereitstellen.