Elon Musks KI-Tool Grok wird in Gerichtsbarkeiten, in denen solche Veränderungen illegal sind, nicht mehr in der Lage sein, Fotos von echten Personen so zu bearbeiten, dass sie in freizügiger Kleidung dargestellt werden. Die Ankündigung, die auf X, der von Musk betriebenen Social-Media-Plattform, erfolgte, folgt auf weitverbreitete Bedenken hinsichtlich des Potenzials für sexualisierte KI-Deepfakes.

X erklärte, dass man "technologische Maßnahmen ergriffen hat, um zu verhindern, dass das Grok-Konto die Bearbeitung von Bildern echter Personen in freizügiger Kleidung ermöglicht". Der Schritt erfolgt nach Kritik und behördlicher Prüfung des potenziellen Missbrauchs des KI-Tools.

Die britische Regierung reagierte auf die Änderung und bezeichnete sie als "Bestätigung" ihrer Forderung an X, Grok zu kontrollieren. Ofcom, die britische Kommunikationsaufsichtsbehörde, bezeichnete die Entwicklung als "willkommen", betonte jedoch, dass ihre Untersuchung, ob X gegen britische Gesetze verstoßen hat, "weiterhin andauert". Ofcom erklärte: "Wir arbeiten rund um die Uhr daran, dies voranzutreiben und Antworten darauf zu erhalten, was schiefgelaufen ist und was getan wird, um es zu beheben."

Technologieministerin Liz Kendall räumte die Änderung ebenfalls ein, erklärte jedoch, dass sie "erwarte, dass die Fakten durch die laufende Untersuchung von Ofcom vollständig und stichhaltig festgestellt werden".

Grok, das 2023 auf den Markt kam, ist ein KI-Tool, das in die X-Plattform integriert ist. Zu seinen Fähigkeiten gehört die Bildbearbeitung, was Bedenken hinsichtlich des potenziellen Missbrauchs aufwirft, insbesondere bei der Erstellung von Deepfakes ohne Einwilligung. Die implementierten technologischen Maßnahmen zielen darauf ab, zu verhindern, dass die KI Bilder erzeugt, die echte Personen ohne deren Zustimmung in sexuell eindeutigen oder freizügigen Kontexten darstellen.

Aktivisten und Opfer argumentieren, dass die Änderung überfällig ist und den bereits verursachten Schaden nicht ungeschehen macht. Jess Davies, eine Journalistin und Aktivistin, hat sich lautstark für stärkere Schutzmaßnahmen gegen KI-generierten Missbrauch ausgesprochen.

Die spezifischen technischen Maßnahmen, die X implementiert hat, um zu verhindern, dass Grok solche Bilder erstellt, wurden in der Ankündigung nicht detailliert beschrieben. Solche Maßnahmen umfassen jedoch typischerweise eine Kombination aus Inhaltsfilterung, Bilderkennungsalgorithmen und Beschränkungen der Arten von Prompts, die die KI verarbeiten kann. Diese Filter sind so konzipiert, dass sie Anfragen erkennen und blockieren, die zur Erstellung von unangemessenen oder schädlichen Inhalten führen könnten.

Der Vorfall verdeutlicht die wachsenden Herausforderungen und ethischen Überlegungen im Zusammenhang mit KI-gestützten Tools, insbesondere im Bereich der Bildmanipulation und Deepfake-Technologie. Mit dem Fortschritt der KI-Technologie stehen Entwickler und Plattformen unter zunehmendem Druck, Schutzmaßnahmen zu implementieren, die Missbrauch verhindern und Einzelpersonen vor Schaden schützen. Die laufende Untersuchung durch Ofcom unterstreicht das Potenzial für regulatorische Eingriffe und die Notwendigkeit für Plattformen, lokale Gesetze und Vorschriften in Bezug auf KI-generierte Inhalte einzuhalten.