Una prohibición en el Reino Unido es una posibilidad para una empresa, conocida como X, debido a la preocupación por los deepfakes, según una declaración de un ministro del gobierno. El ministro citó la supuesta falta de la plataforma para abordar adecuadamente la proliferación de contenido manipulado generado por IA como la razón de la posible prohibición.

El gobierno está considerando activamente todas las opciones disponibles, incluida una prohibición, para garantizar la seguridad de los ciudadanos y la integridad de la información, declaró el ministro durante una audiencia parlamentaria el martes. Las preocupaciones específicas giran en torno a los deepfakes que podrían potencialmente engañar al público, influir en las elecciones o dañar la reputación.

La Ley de Seguridad en Línea, aprobada el año pasado, otorga al gobierno poderes para regular las plataformas en línea y responsabilizarlas por el contenido dañino. Esta legislación proporciona el marco para una posible acción contra X, incluidas multas y, en última instancia, una prohibición si la plataforma no cumple con las disposiciones de la ley.

Los críticos de X han argumentado durante mucho tiempo que la plataforma no ha hecho lo suficiente para combatir la propagación de la desinformación y el contenido dañino, incluidos los deepfakes. Señalan casos en los que videos e imágenes manipulados se han vuelto virales, causando daños en el mundo real.

X, en respuesta a la declaración del ministro, emitió un comunicado afirmando su compromiso de combatir los deepfakes y la desinformación. La compañía describió sus políticas y tecnologías existentes destinadas a detectar y eliminar contenido manipulado, y agregó que está trabajando continuamente para mejorar sus capacidades en esta área. "Nos tomamos muy en serio el tema de los deepfakes y estamos comprometidos a proteger a nuestros usuarios del contenido dañino", decía el comunicado.

Sin embargo, algunos expertos siguen siendo escépticos sobre los esfuerzos de X, argumentando que las políticas de la plataforma no se aplican de manera consistente y que sus tecnologías de detección no son lo suficientemente avanzadas como para seguir el ritmo de las capacidades en rápida evolución de la tecnología deepfake.

La medida del gobierno del Reino Unido se produce en medio de una creciente preocupación mundial sobre el potencial de los deepfakes para socavar la confianza en las instituciones y desestabilizar las sociedades. Varios países están explorando formas de regular los deepfakes y responsabilizar a quienes los crean y difunden.

El Departamento de Ciencia, Innovación y Tecnología está revisando actualmente la respuesta de X a las preocupaciones del gobierno. Se espera que el departamento haga una recomendación al ministro en las próximas semanas, después de lo cual se tomará una decisión sobre si se debe buscar una prohibición. El proceso de toma de decisiones involucrará consultas con expertos, partes interesadas y otras agencias gubernamentales.