Ofcom, die britische Kommunikationsbehörde, hat eine Untersuchung gegen Elon Musks Social-Media-Plattform X, ehemals Twitter, eingeleitet, nachdem Bedenken hinsichtlich der Verbreitung von sexuell expliziten Deepfakes geäußert wurden, die von Grok, dem KI-Chatbot von X, generiert werden. Im Mittelpunkt der am Mittwoch angekündigten Untersuchung steht die Frage, ob X über angemessene Systeme verfügt, um die Erstellung und Verbreitung dieser KI-generierten Bilder zu verhindern, insbesondere solcher, die nicht einwilligende Personen darstellen.

Die Untersuchung wird die Einhaltung des Online Safety Act durch X bewerten, der Plattformen eine rechtliche Sorgfaltspflicht auferlegt, Nutzer vor illegalen und schädlichen Inhalten zu schützen. Ofcom prüft insbesondere, ob X gegen seine Verpflichtungen in Bezug auf illegale Inhalte verstoßen hat, einschließlich Material über sexuellen Kindesmissbrauch und die Erstellung und Verbreitung von Deepfakes ohne Zustimmung. Ein Schwerpunkt liegt auf dem Potenzial von Grok, für die Erzeugung von realistischen, aber gefälschten sexuellen Bildern missbraucht zu werden, was ernsthafte Bedenken hinsichtlich der Privatsphäre, des Rufs und des Potenzials für Belästigung und Erpressung aufwirft.

Deepfakes, ein Kofferwort aus "Deep Learning" und "Fake", sind synthetische Medien, bei denen eine Person in einem bestehenden Bild oder Video durch das Abbild einer anderen Person ersetzt wird. Diese Technologie nutzt hochentwickelte KI-Algorithmen, insbesondere tiefe neuronale Netze, um auf überzeugende Weise Gesichter auszutauschen oder Audio- und Videoinhalte zu manipulieren. Während Deepfakes potenzielle Anwendungen in der Unterhaltung und Bildung haben, birgt ihr Missbrauch erhebliche Risiken. Die Erstellung von nicht einvernehmlichen intimen Bildern, die oft als "Racheporno"-Deepfakes bezeichnet werden, ist ein wachsendes Problem, da diese Bilder bei den Opfern schwere emotionale Belastungen und Rufschädigungen verursachen können.

"Der Schutz von Menschen vor illegalen Inhalten im Internet hat Priorität", sagte ein Sprecher von Ofcom in einer Erklärung. "Wir untersuchen X, um zu beurteilen, ob das Unternehmen geeignete Maßnahmen ergriffen hat, um die Erstellung und Verbreitung von illegalen Deepfakes auf seiner Plattform zu verhindern."

X hat noch keine offizielle Stellungnahme zu der Ofcom-Untersuchung veröffentlicht. Elon Musk hat jedoch bereits zuvor sein Engagement für die Bekämpfung des Missbrauchs von KI auf der Plattform erklärt. Die Richtlinien des Unternehmens verbieten die Erstellung und Verbreitung von Inhalten, die Kinder ausbeuten, missbrauchen oder gefährden, und es hat Maßnahmen ergriffen, um solches Material zu erkennen und zu entfernen. Kritiker argumentieren jedoch, dass diese Maßnahmen nicht ausreichen, um die sich schnell entwickelnde Bedrohung durch KI-generierte Deepfakes zu bewältigen.

Die Untersuchung erfolgt inmitten einer wachsenden globalen Prüfung des Missbrauchspotenzials von KI. Regierungen und Aufsichtsbehörden weltweit ringen damit, wie die Vorteile der KI-Innovation mit der Notwendigkeit, Einzelpersonen vor Schaden zu schützen, in Einklang gebracht werden können. Die Europäische Union beispielsweise finalisiert ihren AI Act, der strenge Vorschriften für risikoreiche KI-Systeme vorsieht, einschließlich solcher, die zur Erzeugung von Deepfakes verwendet werden.

Der Ausgang der Ofcom-Untersuchung könnte erhebliche Auswirkungen auf X und andere Social-Media-Plattformen haben. Wenn festgestellt wird, dass X gegen den Online Safety Act verstoßen hat, drohen dem Unternehmen hohe Geldstrafen und die Verpflichtung, robustere Schutzmaßnahmen zu implementieren, um die Erstellung und Verbreitung illegaler Inhalte zu verhindern. Die Untersuchung ist noch nicht abgeschlossen, und Ofcom hat keinen Zeitplan für ihren Abschluss vorgelegt. Die Ergebnisse werden wahrscheinlich künftige Regulierungsansätze für KI-generierte Inhalte auf Social-Media-Plattformen beeinflussen.