El gobierno del Reino Unido ha instado a Ofcom, el regulador de las comunicaciones del país, a considerar el uso de todas sus facultades, incluyendo potencialmente una prohibición, contra la plataforma de redes sociales X debido a la preocupación por la aparición en el sitio de deepfakes ilegales generados por inteligencia artificial. Esta acción surge de la creciente inquietud por el uso del modelo de IA de X, Grok, para crear imágenes alteradas digitalmente, incluyendo aquellas que eliminan la ropa de las personas.

La autoridad de Ofcom en virtud de la Ley de Seguridad en Línea le permite solicitar órdenes judiciales que podrían impedir que terceros faciliten las operaciones financieras de X o su accesibilidad dentro del Reino Unido. La mayor preocupación del gobierno surge del potencial de que Grok se utilice para generar imágenes sexualizadas, particularmente aquellas que representan a niños.

El Primer Ministro Sir Keir Starmer condenó la creación de tales imágenes, afirmando: "Esto es vergonzoso. Es repugnante. Y no se puede tolerar. Ofcom cuenta con todo nuestro apoyo para tomar medidas en relación con esto". Además, enfatizó la postura del gobierno, añadiendo: "Es ilegal. No vamos a tolerarlo. He pedido que se pongan todas las opciones sobre la mesa". Fuentes gubernamentales confirmaron a BBC News que esperan que Ofcom utilice todas las facultades disponibles para abordar el problema de Grok en X.

Los deepfakes, una forma de medios sintéticos, utilizan la IA, específicamente técnicas de aprendizaje profundo, para crear imágenes, vídeos o grabaciones de audio altamente realistas pero fabricadas. La tecnología plantea importantes preocupaciones éticas y sociales, incluyendo el potencial de desinformación, difamación y pornografía no consentida. La capacidad de alterar de forma convincente imágenes y vídeos puede erosionar la confianza en la información visual y crear desafíos para distinguir entre la realidad y la fabricación.

La Ley de Seguridad en Línea otorga a Ofcom importantes poderes reguladores para abordar el contenido perjudicial en línea. Estos poderes incluyen la capacidad de multar a las empresas que no protegen a los usuarios del contenido ilegal y, en casos extremos, bloquear el acceso a los sitios web. El hecho de que el gobierno inste a Ofcom a considerar una prohibición pone de relieve la gravedad de sus preocupaciones con respecto al posible uso indebido de la IA en las plataformas de redes sociales.

La situación subraya el debate en curso sobre la regulación de la IA y su impacto potencial en la sociedad. A medida que la tecnología de la IA continúa avanzando, los reguladores y los responsables políticos se enfrentan al reto de equilibrar la innovación con la necesidad de proteger a las personas de los daños. El resultado de la investigación de Ofcom y cualquier acción posterior tomada contra X probablemente sentará un precedente sobre cómo se regula el contenido generado por la IA en el Reino Unido y podría influir en debates similares en otros países. Ahora se espera que el regulador evalúe las pruebas y determine el curso de acción apropiado, considerando el alcance total de sus poderes en virtud de la Ley de Seguridad en Línea.