Uma proibição no Reino Unido é uma possibilidade para uma empresa, referida como X, devido a preocupações com deepfakes, de acordo com uma declaração de um ministro do governo. O ministro citou a suposta falha da plataforma em abordar adequadamente a proliferação de conteúdo manipulado gerado por IA como a razão para a potencial proibição.

O governo está considerando ativamente todas as opções disponíveis, incluindo uma proibição, para garantir a segurança dos cidadãos e a integridade das informações, afirmou o ministro durante uma audiência parlamentar na terça-feira. As preocupações específicas giram em torno de deepfakes que podem potencialmente enganar o público, influenciar eleições ou danificar reputações.

A Lei de Segurança Online, aprovada no ano passado, concede ao governo poderes para regular plataformas online e responsabilizá-las por conteúdo prejudicial. Esta legislação fornece a estrutura para uma potencial ação contra a X, incluindo multas e, em última análise, uma proibição se a plataforma não cumprir as disposições da lei.

Críticos da X há muito argumentam que a plataforma não fez o suficiente para combater a disseminação de desinformação e conteúdo prejudicial, incluindo deepfakes. Eles apontam para casos em que vídeos e imagens manipuladas se tornaram virais, causando danos no mundo real.

A X, em resposta à declaração do ministro, divulgou um comunicado afirmando seu compromisso em combater deepfakes e desinformação. A empresa descreveu suas políticas e tecnologias existentes destinadas a detectar e remover conteúdo manipulado, acrescentando que está continuamente trabalhando para melhorar suas capacidades nesta área. "Levamos a questão dos deepfakes muito a sério e estamos comprometidos em proteger nossos usuários de conteúdo prejudicial", dizia o comunicado.

No entanto, alguns especialistas permanecem céticos em relação aos esforços da X, argumentando que as políticas da plataforma não são aplicadas de forma consistente e que suas tecnologias de detecção não são avançadas o suficiente para acompanhar as capacidades em rápida evolução da tecnologia deepfake.

A medida do governo do Reino Unido ocorre em meio a uma crescente preocupação global sobre o potencial dos deepfakes para minar a confiança nas instituições e desestabilizar as sociedades. Vários países estão explorando maneiras de regular os deepfakes e responsabilizar aqueles que os criam e disseminam.

O Departamento de Ciência, Inovação e Tecnologia está atualmente revisando a resposta da X às preocupações do governo. Espera-se que o departamento faça uma recomendação ao ministro nas próximas semanas, após o qual será tomada uma decisão sobre se deve prosseguir com uma proibição. O processo de tomada de decisão envolverá consultas com especialistas, partes interessadas e outras agências governamentais.