Ofcom, die britische Kommunikationsbehörde, hat eine Untersuchung gegen Elon Musks Social-Media-Plattform X, ehemals Twitter, eingeleitet. Grund dafür sind Bedenken hinsichtlich der Verbreitung von sexuell expliziten Deepfakes, die von Grok, dem KI-Chatbot von X, generiert werden. Die am Mittwoch angekündigte Untersuchung konzentriert sich darauf, ob X über angemessene Systeme und Prozesse verfügt, um Nutzer vor schädlichen Inhalten zu schützen, insbesondere vor synthetischen Medien, die Personen ohne deren Zustimmung in sexuellen Situationen darstellen.

Im Mittelpunkt der Untersuchung stehen mögliche Verstöße gegen den Online Safety Act, der Social-Media-Plattformen eine rechtliche Sorgfaltspflicht auferlegt, Nutzer vor illegalen und schädlichen Inhalten zu schützen. Ofcom wird die Einhaltung dieser Vorschriften durch X prüfen und dabei die Risikobewertungen, die Richtlinien zur Inhaltsmoderation und die Durchsetzungsmechanismen der Plattform in Bezug auf KI-generierte sexuelle Deepfakes untersuchen. Ein Schwerpunkt wird darauf liegen, wie X solche Inhalte identifiziert und entfernt und wie es deren erneutes Hochladen verhindert.

Deepfakes, eine Form synthetischer Medien, nutzen künstliche Intelligenz, insbesondere Deep-Learning-Techniken, um höchst realistische, aber gefälschte Videos oder Bilder zu erstellen. Im Zusammenhang mit sexuellen Deepfakes wird KI verwendet, um das Gesicht einer Person auf den Körper einer Person zu legen, die sexuelle Handlungen vornimmt. Diese Technologie wirft erhebliche ethische und rechtliche Bedenken auf, da sie zur Erstellung von nicht einvernehmlicher Pornografie, zur Schädigung des Rufs und zur Verursachung schwerer emotionaler Belastungen für die Opfer verwendet werden kann. Die relative Leichtigkeit, mit der Grok dazu gebracht werden kann, solche Inhalte zu generieren, hat diese Bedenken verstärkt.

"Die Erstellung und Verbreitung von sexuellen Deepfakes ist eine zutiefst schädliche Handlung, und Plattformen haben die Verantwortung, ihre Nutzer vor dieser Art von Missbrauch zu schützen", sagte ein Sprecher von Ofcom. "Unsere Untersuchung wird prüfen, ob X angemessene Maßnahmen ergreift, um die Risiken durch KI-generierte Inhalte zu bewältigen und die Sicherheit seiner Nutzer zu gewährleisten."

X hat noch keine formelle Stellungnahme zu der Ofcom-Untersuchung abgegeben. Elon Musk hat jedoch bereits zuvor sein Engagement für die Bekämpfung des Missbrauchs von KI auf der Plattform erklärt. Die Richtlinien des Unternehmens zur Inhaltsmoderation verbieten die Erstellung und Verbreitung von nicht einvernehmlichen, expliziten Bildern, einschließlich Deepfakes. Die Herausforderung liegt in der rasanten Entwicklung der KI-Technologie, die es zunehmend erschwert, synthetische Inhalte zu erkennen und zu entfernen.

Experten für KI-Ethik und -Politik haben die Untersuchung von Ofcom begrüßt und die dringende Notwendigkeit regulatorischer Rahmenbedingungen zur Bewältigung der gesellschaftlichen Auswirkungen von KI-generierten Inhalten hervorgehoben. "Diese Untersuchung ist ein entscheidender Schritt, um Social-Media-Plattformen für die Inhalte zur Rechenschaft zu ziehen, die auf ihren Seiten geteilt werden", sagte Dr. Anya Sharma, eine Forscherin am Oxford Internet Institute, die sich auf KI-Governance spezialisiert hat. "Wir brauchen klare Richtlinien und robuste Durchsetzungsmechanismen, um den Missbrauch von KI zu verhindern und Einzelpersonen vor den Schäden zu schützen, die mit Deepfakes verbunden sind."

Die Untersuchung wird voraussichtlich mehrere Monate dauern, und Ofcom hat die Befugnis, X erhebliche Geldstrafen aufzuerlegen, wenn die Plattform gegen den Online Safety Act verstößt. Der Ausgang dieser Untersuchung könnte weitreichende Auswirkungen auf die Regulierung von KI-generierten Inhalten auf Social-Media-Plattformen haben, sowohl in Großbritannien als auch international. Sie unterstreicht auch den wachsenden Druck auf Technologieunternehmen, die ethischen und gesellschaftlichen Herausforderungen, die durch die rasante Weiterentwicklung der KI-Technologien entstehen, proaktiv anzugehen. Ofcom wird seine Ergebnisse nach Abschluss der Untersuchung veröffentlichen.