Laut einer Ankündigung auf X wird Elon Musks KI-Tool Grok keine Fotos von realen Personen mehr so bearbeiten können, dass sie in aufreizender Kleidung dargestellt werden, und zwar in Gerichtsbarkeiten, in denen solche Veränderungen illegal sind. Die Entscheidung folgt auf weitverbreitete Bedenken hinsichtlich sexuell expliziter KI-Deepfakes, die vom KI-Chatbot der Plattform generiert werden.
X, die Social-Media-Plattform im Besitz von Elon Musk, erklärte, dass sie technologische Maßnahmen ergriffen habe, um zu verhindern, dass das Grok-Konto die Bearbeitung von Bildern realer Personen in aufreizender Kleidung zulässt. Der Schritt erfolgt nach verstärkter Kontrolle und Druck von Aufsichtsbehörden und Interessengruppen hinsichtlich des potenziellen Missbrauchs von KI-Technologie.
Die britische Regierung reagierte auf die Änderung und bezeichnete sie als "Bestätigung" ihrer Forderungen an X, Grok zu kontrollieren. Die Aufsichtsbehörde Ofcom bezeichnete die Entwicklung als "willkommen", betonte jedoch, dass ihre Untersuchung, ob die Plattform gegen britisches Recht verstoßen hat, "weiterhin andauert". Ofcom erklärte: "Wir arbeiten rund um die Uhr daran, dies voranzutreiben und Antworten darauf zu erhalten, was schiefgelaufen ist und was getan wird, um das Problem zu beheben."
Technologieministerin Liz Kendall begrüßte den Schritt ebenfalls, erklärte jedoch, dass sie "erwarte, dass die Fakten durch die laufende Untersuchung von Ofcom vollständig und stichhaltig festgestellt werden".
Grok, das 2023 auf X eingeführt wurde, ist ein KI-Chatbot, der zum Generieren von Text und Bildern entwickelt wurde. Die Technologie verwendet Algorithmen für maschinelles Lernen, um digitale Inhalte zu analysieren und zu manipulieren. Die spezifischen technologischen Maßnahmen, die von X implementiert wurden, um die Erstellung von Deepfakes zu verhindern, wurden nicht offengelegt.
Aktivisten und Opfer argumentieren, dass die Änderung nicht ausreicht, um den bereits durch die Technologie verursachten Schaden wiedergutzumachen. Die Journalistin und Aktivistin Jess Davies, die nicht direkt zitiert wurde, hat die Handhabung von KI-generierten, sexualisierten Inhalten durch die Plattform lautstark kritisiert.
Der Vorfall verdeutlicht die anhaltenden Herausforderungen bei der Regulierung von KI-Technologie und der Verhinderung ihres Missbrauchs. Die Möglichkeit, realistische Deepfakes zu erstellen, wirft erhebliche ethische und rechtliche Bedenken auf, insbesondere in Bezug auf Privatsphäre, Einwilligung und Verleumdung. Die Auswirkungen dieser Entscheidung auf die Branche könnten dazu führen, dass andere KI-Plattformen ihre Sicherheitsprotokolle und Richtlinien zur Inhaltsmoderation neu bewerten.
Discussion
Join the conversation
Be the first to comment