Ofcom Investiga a X por Preocupaciones Sobre Deepfakes Sexuales Creados con Grok AI

Londres - Ofcom, el regulador de comunicaciones del Reino Unido, ha iniciado una investigación sobre la plataforma de redes sociales X (anteriormente Twitter) de Elon Musk por la preocupación de que su herramienta de inteligencia artificial, Grok, se esté utilizando para crear imágenes sexualizadas. La investigación fue motivada por "informes profundamente preocupantes" sobre el uso del chatbot para generar y compartir imágenes de personas desnudas, así como "imágenes sexualizadas de niños", según un comunicado emitido por Ofcom.

La investigación del organismo de control se centrará en si X ha violado las leyes y regulaciones pertinentes con respecto a la creación y distribución de dicho contenido. Si se determina que X ha infringido la ley, Ofcom tiene la autoridad para imponer una multa de hasta el 10% de sus ingresos mundiales o 18 millones de libras esterlinas, lo que sea mayor.

En respuesta a la investigación, X se remitió a una declaración publicada por su cuenta de Seguridad a principios de enero. La declaración decía: "Cualquiera que use o incite a Grok a crear contenido ilegal [será]". La declaración completa no estaba disponible en el material original.

La investigación está en curso y Ofcom no ha proporcionado un cronograma específico para su finalización. El resultado de la investigación podría tener implicaciones significativas para X y otras plataformas que utilizan herramientas de IA, lo que podría conducir a regulaciones más estrictas y una mayor responsabilidad por el contenido generado por estas tecnologías.