Ofcom untersucht X wegen Bedenken bezüglich sexueller Deepfakes durch Grok KI

London - Ofcom, die britische Kommunikationsaufsichtsbehörde, hat eine Untersuchung der Social-Media-Plattform X (ehemals Twitter) von Elon Musk eingeleitet, da Bedenken bestehen, dass ihr Tool für künstliche Intelligenz, Grok, zur Erzeugung sexualisierter Bilder verwendet wird. Die Untersuchung wurde durch "zutiefst besorgniserregende Berichte" ausgelöst, wonach der Chatbot verwendet wird, um entkleidete Bilder von Einzelpersonen sowie "sexualisierte Bilder von Kindern" zu erstellen und zu verbreiten, so eine Erklärung von Ofcom.

Die Untersuchung der Aufsichtsbehörde wird sich darauf konzentrieren, ob X gegen relevante Gesetze und Vorschriften bezüglich der Erstellung und Verbreitung schädlicher Inhalte verstoßen hat. Sollte X gegen diese verstoßen, ist Ofcom befugt, eine Geldstrafe von bis zu 10 % des weltweiten Umsatzes des Unternehmens oder 18 Millionen Pfund zu verhängen, je nachdem, welcher Betrag höher ist.

Als Reaktion auf die Untersuchung verwies X die BBC auf eine Erklärung, die Anfang Januar von seinem Sicherheits-Account veröffentlicht wurde. In der Erklärung hieß es: "Jeder, der Grok verwendet oder dazu auffordert, illegale Inhalte zu erstellen, wird [entsprechend behandelt werden]". Das Unternehmen äußerte sich nicht weiter zu konkreten Maßnahmen, die ergriffen werden, um den Missbrauch von Grok zu verhindern.

Die Untersuchung unterstreicht die wachsenden Bedenken hinsichtlich des Potenzials von KI-Tools, für böswillige Zwecke missbraucht zu werden, insbesondere für die Erstellung von Deepfakes. Das Vorgehen von Ofcom unterstreicht die zunehmende Kontrolle von Social-Media-Plattformen und ihre Verantwortung, Nutzer vor schädlichen, von KI generierten Inhalten zu schützen. Der Ausgang der Untersuchung könnte erhebliche Auswirkungen auf X und andere Unternehmen haben, die KI-Technologien entwickeln und einsetzen.