O governo do Reino Unido instou a Ofcom, a reguladora de comunicações do país, a considerar o uso de todos os seus poderes, potencialmente incluindo uma proibição, contra a plataforma de mídia social X devido a preocupações com deepfakes ilegais gerados por inteligência artificial que aparecem no site. Esta ação decorre de crescentes ansiedades sobre o uso do modelo de IA da X, Grok, para criar imagens alteradas digitalmente, incluindo aquelas que removem roupas de indivíduos.

A autoridade da Ofcom sob a Lei de Segurança Online permite que ela busque ordens judiciais que possam impedir que terceiros facilitem as operações financeiras da X ou sua acessibilidade no Reino Unido. A crescente preocupação do governo surge do potencial de Grok ser usado para gerar imagens sexualizadas, particularmente aquelas que retratam crianças.

O primeiro-ministro Sir Keir Starmer condenou a criação de tais imagens, afirmando: "Isto é vergonhoso. É repugnante. E não deve ser tolerado. A Ofcom tem todo o nosso apoio para tomar medidas em relação a isto." Ele enfatizou ainda a posição do governo, acrescentando: "É ilegal. Não vamos tolerar isso. Pedi que todas as opções estivessem sobre a mesa." Fontes do governo confirmaram à BBC News que esperam que a Ofcom utilize todos os poderes disponíveis para abordar a questão do Grok na X.

Deepfakes, uma forma de mídia sintética, utilizam IA, especificamente técnicas de aprendizado profundo, para criar imagens, vídeos ou gravações de áudio altamente realistas, mas fabricadas. A tecnologia levanta significativas preocupações éticas e sociais, incluindo o potencial para desinformação, difamação e pornografia não consensual. A capacidade de alterar de forma convincente imagens e vídeos pode corroer a confiança na informação visual e criar desafios na distinção entre realidade e fabricação.

A Lei de Segurança Online concede à Ofcom significativos poderes regulatórios para lidar com conteúdo prejudicial online. Esses poderes incluem a capacidade de multar empresas que não protegem os usuários de conteúdo ilegal e, em casos extremos, bloquear o acesso a sites. O apelo do governo à Ofcom para considerar uma proibição destaca a gravidade de suas preocupações em relação ao potencial uso indevido de IA em plataformas de mídia social.

A situação sublinha o debate em curso sobre a regulamentação da IA e o seu potencial impacto na sociedade. À medida que a tecnologia de IA continua a avançar, os reguladores e os legisladores enfrentam o desafio de equilibrar a inovação com a necessidade de proteger os indivíduos de danos. O resultado da investigação da Ofcom e quaisquer ações subsequentes tomadas contra a X provavelmente estabelecerão um precedente sobre como o conteúdo gerado por IA é regulamentado no Reino Unido e potencialmente influenciarão discussões semelhantes em outros países. Espera-se agora que o regulador avalie as evidências e determine o curso de ação apropriado, considerando toda a extensão de seus poderes sob a Lei de Segurança Online.