El gobierno ha instado a Ofcom, el regulador de las comunicaciones del Reino Unido, a considerar la utilización de todas sus facultades, incluyendo potencialmente una prohibición, contra la plataforma de redes sociales X debido a la preocupación por las imágenes ilegales generadas por inteligencia artificial que circulan en el sitio. Esta acción se deriva de la creciente inquietud sobre el modelo de IA de X, Grok, que se está utilizando para crear deepfakes, específicamente aquellos que desnudan digitalmente a personas en imágenes.

La autoridad de Ofcom, otorgada en virtud de la Ley de Seguridad en Línea (Online Safety Act), le permite solicitar órdenes judiciales que podrían impedir que organizaciones de terceros proporcionen apoyo financiero o permitan el acceso a X dentro del Reino Unido. La mayor preocupación del gobierno está impulsada por el potencial de Grok para generar imágenes sexualmente explícitas, incluidas aquellas que representan a niños.

El Primer Ministro Sir Keir Starmer condenó la creación de tales imágenes, afirmando: "Esto es vergonzoso. Es repugnante. Y no se puede tolerar. Ofcom cuenta con todo nuestro apoyo para tomar medidas en relación con esto". Además, enfatizó la postura del gobierno, añadiendo: "Es ilegal. No vamos a tolerarlo. He pedido que se consideren todas las opciones". Fuentes gubernamentales confirmaron a BBC News que se espera que Ofcom explore todas las medidas disponibles en respuesta a los problemas relacionados con Grok en X.

Los deepfakes, un tipo de medio sintético, utilizan la IA, en particular las técnicas de aprendizaje profundo, para crear imágenes, vídeos o grabaciones de audio realistas pero fabricadas. La tecnología plantea importantes cuestiones éticas y legales, especialmente cuando se utiliza para generar imágenes íntimas no consentidas o difundir desinformación. La capacidad de la IA para alterar o fabricar contenido de forma convincente plantea un desafío para verificar la información y proteger a las personas de daños.

La Ley de Seguridad en Línea otorga a Ofcom un poder considerable para regular las plataformas en línea y abordar el contenido perjudicial. Esto incluye la capacidad de multar a las empresas, bloquear el acceso a sitios web y, potencialmente, responsabilizar a los ejecutivos individuales por no proteger a los usuarios. La Ley tiene como objetivo establecer un marco para la seguridad en línea, exigiendo a las plataformas que eliminen el contenido ilegal y protejan a los usuarios de daños.

La situación pone de relieve el debate en curso sobre la regulación de la IA y su impacto potencial en la sociedad. A medida que la tecnología de la IA sigue avanzando, los responsables políticos y los reguladores están lidiando con la forma de equilibrar la innovación con la necesidad de proteger a las personas de los posibles daños asociados a su uso indebido. El resultado de la investigación de Ofcom y cualquier acción posterior tomada contra X probablemente sentará un precedente sobre cómo el Reino Unido regula el contenido generado por la IA en las plataformas en línea. Ahora se espera que el regulador revise las pruebas y determine el curso de acción apropiado, considerando el alcance total de sus poderes en virtud de la Ley de Seguridad en Línea.