El gobierno ha instado a Ofcom, el regulador de las comunicaciones del Reino Unido, a considerar la utilización de toda su gama de poderes, incluyendo potencialmente una prohibición, contra la plataforma de redes sociales X debido a la preocupación por las imágenes ilegales generadas por inteligencia artificial que circulan en el sitio. Esta acción surge de la creciente inquietud sobre el modelo de IA de X, Grok, que se está utilizando para crear deepfakes, específicamente aquellos que desnudan digitalmente a personas en imágenes.

La autoridad de Ofcom en virtud de la Ley de Seguridad en Línea le permite solicitar órdenes judiciales que podrían impedir que terceros ayuden a X, propiedad de Elon Musk, a obtener capital o a permitir el acceso a la plataforma dentro del Reino Unido. La mayor preocupación del gobierno surge de la posible creación de imágenes sexualizadas de niños utilizando Grok.

El Primer Ministro Sir Keir Starmer condenó la creación de tales imágenes, afirmando: "Esto es vergonzoso. Es repugnante. Y no se puede tolerar. Ofcom cuenta con todo nuestro apoyo para tomar medidas en relación con esto". Además, enfatizó la postura del gobierno, añadiendo: "Es ilegal. No vamos a tolerarlo. He pedido que se consideren todas las opciones", en una entrevista con Greatest Hits Radio. Fuentes gubernamentales confirmaron a BBC News que "esperarían que Ofcom utilizara todos los poderes a su disposición con respecto a Grok X".

Los deepfakes, un acrónimo de "deep learning" (aprendizaje profundo) y "fake" (falso), son medios sintéticos en los que una persona en una imagen o vídeo existente es reemplazada por la imagen de otra persona utilizando inteligencia artificial. Si bien los deepfakes tienen varias aplicaciones, incluyendo el entretenimiento y la expresión artística, su potencial de uso indebido, como la creación de imágenes íntimas no consentidas o la difusión de desinformación, plantea importantes preocupaciones éticas y legales. La sofisticación de los modelos de IA como Grok ha hecho que sea cada vez más difícil distinguir entre el contenido genuino y el manipulado, lo que complica aún más el problema.

La Ley de Seguridad en Línea otorga a Ofcom importantes poderes para regular el contenido en línea y proteger a los usuarios de daños. Estos poderes incluyen la capacidad de imponer multas, exigir la eliminación de contenido ilegal y, en casos extremos, bloquear el acceso a sitios web. El hecho de que el gobierno inste a Ofcom a considerar la prohibición de X pone de relieve la seriedad con la que considera los posibles daños asociados a los deepfakes generados por la IA.

La situación sigue siendo fluida, y no está claro qué medidas específicas tomará Ofcom. Se espera que el regulador considere cuidadosamente las pruebas y el marco legal antes de tomar una decisión. El resultado de este caso podría tener importantes implicaciones para la regulación del contenido generado por la IA y las responsabilidades de las plataformas de redes sociales a la hora de abordar el uso indebido de las tecnologías de la IA.