O governo instou a Ofcom, a reguladora de comunicações do Reino Unido, a considerar a utilização de toda a sua gama de poderes, potencialmente incluindo uma proibição, contra a plataforma de redes sociais X devido a preocupações com imagens ilegais geradas por inteligência artificial que circulam no site. Esta ação decorre da crescente apreensão sobre o modelo de IA da X, Grok, que está a ser usado para criar deepfakes, especificamente aqueles que despem digitalmente indivíduos em imagens.

A autoridade da Ofcom, concedida pela Lei de Segurança Online (Online Safety Act), permite-lhe solicitar ordens judiciais que possam impedir que organizações terceiras forneçam apoio financeiro ou permitam o acesso à X no Reino Unido. A crescente preocupação do governo é impulsionada pelo potencial do Grok para gerar imagens sexualmente explícitas, incluindo aquelas que retratam crianças.

O Primeiro-Ministro Sir Keir Starmer condenou a criação de tais imagens, afirmando: "Isto é vergonhoso. É repugnante. E não deve ser tolerado. A Ofcom tem todo o nosso apoio para tomar medidas em relação a isto." Ele enfatizou ainda a posição do governo, acrescentando: "É ilegal. Não vamos tolerar isto. Pedi que todas as opções estivessem em cima da mesa." Fontes do governo confirmaram à BBC News que se espera que a Ofcom explore todas as medidas disponíveis em resposta aos problemas relacionados com o Grok na X.

Deepfakes, um tipo de mídia sintética, utilizam IA, particularmente técnicas de aprendizagem profunda, para criar imagens, vídeos ou gravações de áudio realistas, mas fabricadas. A tecnologia levanta questões éticas e legais significativas, especialmente quando usada para gerar imagens íntimas não consensuais ou espalhar desinformação. A capacidade da IA de alterar ou fabricar conteúdo de forma convincente representa um desafio para verificar informações e proteger os indivíduos de danos.

A Lei de Segurança Online concede à Ofcom um poder considerável para regular plataformas online e abordar conteúdo prejudicial. Isso inclui a capacidade de multar empresas, bloquear o acesso a sites e, potencialmente, responsabilizar individualmente os executivos por falhas na proteção dos utilizadores. A Lei visa estabelecer uma estrutura para a segurança online, exigindo que as plataformas removam conteúdo ilegal e protejam os utilizadores de danos.

A situação destaca o debate em curso sobre a regulamentação da IA e o seu potencial impacto na sociedade. À medida que a tecnologia de IA continua a avançar, os legisladores e reguladores estão a debater como equilibrar a inovação com a necessidade de proteger os indivíduos dos potenciais danos associados ao seu uso indevido. O resultado da investigação da Ofcom e quaisquer ações subsequentes tomadas contra a X provavelmente estabelecerão um precedente sobre como o Reino Unido regula o conteúdo gerado por IA em plataformas online. Espera-se agora que o regulador reveja as evidências e determine o curso de ação apropriado, considerando toda a extensão dos seus poderes ao abrigo da Lei de Segurança Online.