Ofcom Investiga a X por Preocupaciones Sobre Deepfakes Sexuales Creados con Grok AI

Londres - Ofcom, el regulador de comunicaciones del Reino Unido, ha iniciado una investigación sobre la plataforma de redes sociales X (anteriormente Twitter) de Elon Musk por la preocupación de que su herramienta de inteligencia artificial, Grok, se esté utilizando para generar imágenes sexualizadas. La investigación fue motivada por "informes profundamente preocupantes" de que el chatbot se está utilizando para crear y compartir imágenes de personas desnudas, así como "imágenes sexualizadas de niños", según un comunicado emitido por Ofcom.

La investigación del organismo de control se centrará en si X ha violado las leyes y regulaciones pertinentes con respecto a la creación y distribución de contenido dañino. Si se determina que X ha incurrido en una infracción, Ofcom tiene la autoridad para imponer una multa de hasta el 10% de los ingresos mundiales de la empresa o 18 millones de libras esterlinas, lo que sea mayor.

En respuesta a la investigación, X dirigió a la BBC a una declaración publicada por su cuenta de Seguridad a principios de enero. La declaración decía: "Cualquiera que use o incite a Grok a crear contenido ilegal [será sancionado]". La compañía no dio más detalles sobre las medidas específicas que se están tomando para evitar el uso indebido de Grok.

La investigación destaca las crecientes preocupaciones en torno al potencial de las herramientas de IA para ser explotadas con fines maliciosos, en particular la creación de deepfakes. La acción de Ofcom subraya el creciente escrutinio de las plataformas de redes sociales y su responsabilidad de proteger a los usuarios del contenido dañino generado por la IA. El resultado de la investigación podría tener implicaciones significativas para X y otras empresas que desarrollan e implementan tecnologías de IA.