O governo instou a Ofcom, a reguladora de comunicações do Reino Unido, a considerar a utilização de todos os seus poderes, potencialmente incluindo uma proibição, contra a plataforma de mídia social X devido a preocupações com imagens ilegais geradas por inteligência artificial que circulam no site. Esta ação decorre da crescente apreensão sobre o modelo de IA da X, Grok, que está a ser usado para criar deepfakes, especificamente aqueles que despem digitalmente indivíduos em imagens.

A autoridade da Ofcom sob a Lei de Segurança Online permite que ela solicite ordens judiciais que possam impedir terceiros de ajudar a X, propriedade de Elon Musk, a aumentar o capital ou de permitir o acesso à plataforma no Reino Unido. A crescente preocupação do governo surge da potencial criação de imagens sexualizadas de crianças usando o Grok.

O primeiro-ministro Sir Keir Starmer condenou a criação de tais imagens, afirmando: "Isto é vergonhoso. É repugnante. E não deve ser tolerado. A Ofcom tem todo o nosso apoio para tomar medidas em relação a isto." Ele enfatizou ainda a posição do governo, acrescentando: "É ilegal. Não vamos tolerar isso. Pedi que todas as opções estivessem em cima da mesa", numa entrevista à Greatest Hits Radio. Fontes do governo confirmaram à BBC News que "esperariam que a Ofcom usasse todos os poderes à sua disposição em relação ao Grok X."

Deepfakes, uma junção de "deep learning" (aprendizagem profunda) e "fake" (falso), são mídia sintética na qual uma pessoa numa imagem ou vídeo existente é substituída pela imagem de outra pessoa usando inteligência artificial. Embora os deepfakes tenham várias aplicações, incluindo entretenimento e expressão artística, o seu potencial para uso indevido, como a criação de imagens íntimas não consensuais ou a disseminação de desinformação, levanta significativas preocupações éticas e legais. A sofisticação de modelos de IA como o Grok tornou cada vez mais difícil distinguir entre conteúdo genuíno e manipulado, complicando ainda mais a questão.

A Lei de Segurança Online concede à Ofcom poderes significativos para regular o conteúdo online e proteger os utilizadores de danos. Esses poderes incluem a capacidade de emitir multas, exigir a remoção de conteúdo ilegal e, em casos extremos, bloquear o acesso a sites. O apelo do governo à Ofcom para considerar uma proibição da X destaca a seriedade com que encara os potenciais danos associados aos deepfakes gerados por IA.

A situação permanece fluida e não está claro quais ações específicas a Ofcom tomará. Espera-se que a reguladora considere cuidadosamente as evidências e o quadro legal antes de tomar uma decisão. O resultado deste caso poderá ter implicações significativas para a regulamentação do conteúdo gerado por IA e as responsabilidades das plataformas de mídia social no tratamento do uso indevido de tecnologias de IA.