O governo instou a Ofcom, a reguladora de comunicações do Reino Unido, a considerar o uso de todos os seus poderes, potencialmente incluindo uma proibição, contra a plataforma de mídia social X devido a preocupações sobre a criação e distribuição de imagens ilegais geradas por IA. Esta ação segue a crescente crítica em relação ao uso do modelo de IA da X, Grok, que tem sido usado para alterar digitalmente imagens, incluindo a remoção de roupas de indivíduos.

A autoridade da Ofcom sob a Lei de Segurança Online permite que ela busque ordens judiciais que possam impedir terceiros de fornecer apoio financeiro à X ou permitir o acesso à plataforma no Reino Unido. A crescente preocupação do governo decorre do potencial do Grok para gerar imagens sexualizadas, particularmente aquelas que retratam crianças.

O primeiro-ministro Sir Keir Starmer condenou a criação de tais imagens, afirmando: "Isto é vergonhoso. É repugnante. E não deve ser tolerado. A Ofcom tem todo o nosso apoio para tomar medidas em relação a isto." Ele enfatizou ainda a posição do governo, acrescentando: "É ilegal. Não vamos tolerar isso. Pedi que todas as opções estivessem sobre a mesa", em entrevista à Greatest Hits Radio.

Fontes do governo confirmaram à BBC News que esperam que a Ofcom utilize todos os poderes disponíveis em resposta às questões em torno do Grok e da X.

A questão central gira em torno do uso indevido da IA generativa, um tipo de inteligência artificial capaz de criar novos conteúdos, incluindo imagens, texto e áudio. Embora a IA generativa tenha um potencial significativo para inovação e criatividade, o seu uso indevido levanta sérias preocupações éticas e legais. Deepfakes, mídia gerada por IA que retrata de forma convincente alguém fazendo ou dizendo algo que não fez, representam uma aplicação particularmente preocupante. A capacidade de criar imagens realistas, mas fabricadas, pode ser usada para fins maliciosos, incluindo a disseminação de desinformação, a difamação de reputações e a criação de imagens íntimas não consensuais.

A Lei de Segurança Online concede à Ofcom o poder de regular os serviços online e combater conteúdos nocivos. Isso inclui a capacidade de emitir multas, exigir a remoção de conteúdo ilegal e, em casos extremos, bloquear o acesso a plataformas que não cumprem a lei. O apelo do governo para que a Ofcom considere uma proibição destaca a gravidade das suas preocupações em relação ao potencial de conteúdo gerado por IA para causar danos.

A situação sublinha os desafios de regular as tecnologias de IA em rápida evolução. À medida que os modelos de IA se tornam mais sofisticados, torna-se cada vez mais difícil detetar e impedir a criação de conteúdo nocivo. Isso exige uma abordagem multifacetada que inclua soluções tecnológicas, como ferramentas de deteção alimentadas por IA, bem como estruturas regulatórias e campanhas de sensibilização pública.

O debate em torno da X e do Grok reflete uma discussão mais ampla sobre as responsabilidades das plataformas de mídia social na era da IA. Os críticos argumentam que as plataformas têm o dever de impedir o uso indevido das suas tecnologias e de proteger os utilizadores de danos. Os defensores da liberdade de expressão, no entanto, alertam contra regulamentações excessivamente restritivas que poderiam sufocar a inovação e limitar a liberdade de expressão.

A Ofcom está atualmente a avaliar a situação e a considerar as suas opções. A decisão do regulador provavelmente terá implicações significativas para o futuro da regulamentação da IA no Reino Unido e poderá estabelecer um precedente para outros países que enfrentam desafios semelhantes. Os próximos passos envolvem a Ofcom a recolher provas, a consultar especialistas e a interagir com a X para abordar as preocupações do governo. O resultado deste processo permanece incerto, mas é claro que a questão do conteúdo gerado por IA e o seu potencial para causar danos continuarão a ser um foco importante para reguladores e legisladores.