Autoridades governamentais estão exigindo que a plataforma de mídia social X, de Elon Musk, aborde a proliferação do que descrevem como deepfakes "terríveis" gerados por Grok, o chatbot de inteligência artificial da plataforma. A exigência surge após um aumento no conteúdo de áudio e vídeo manipulado circulando no X, levantando preocupações sobre desinformação e potenciais danos a indivíduos e instituições.

As preocupações do governo se concentram na capacidade do Grok de gerar deepfakes realistas e convincentes, que são mídias sintéticas nas quais uma pessoa em uma imagem ou vídeo existente é substituída pela imagem de outra pessoa. Esses deepfakes, afirmaram as autoridades, estão sendo usados para espalhar narrativas falsas, personificar figuras públicas e potencialmente influenciar a opinião pública. "A sofisticação desses deepfakes gerados por Grok é profundamente preocupante", disse um porta-voz do Departamento de Padrões de Tecnologia em um comunicado divulgado. "Estamos exigindo que o X tome medidas imediatas para mitigar o risco que eles representam para o público."

Grok, lançado pela empresa de IA xAI de Musk, é um modelo de linguagem grande (LLM) projetado para responder a perguntas e gerar texto em um estilo conversacional. Os LLMs são treinados em conjuntos de dados massivos de texto e código, permitindo que eles entendam e gerem linguagem semelhante à humana. Embora a xAI tenha divulgado o potencial do Grok para educação e entretenimento, os críticos alertaram sobre seu potencial para uso indevido, particularmente na criação de desinformação.

A política atual do X proíbe a criação e distribuição de deepfakes destinados a enganar ou induzir em erro, mas as autoridades argumentam que os mecanismos de fiscalização da plataforma são inadequados. Eles apontam para a rápida disseminação de vários deepfakes de alto nível no X nas últimas semanas, incluindo um que retratava falsamente um político proeminente fazendo comentários inflamatórios. "Seus esforços atuais de moderação são claramente insuficientes para lidar com a escala e a sofisticação desse problema", acrescentou o porta-voz do Departamento de Padrões de Tecnologia.

A exigência do governo pressiona o X a aprimorar seus recursos de detecção e remoção de deepfakes. As possíveis soluções incluem a implementação de ferramentas de detecção mais sofisticadas baseadas em IA, o aumento da moderação humana e a colaboração com organizações independentes de verificação de fatos. A situação também destaca os desafios mais amplos de regulamentar o conteúdo gerado por IA e equilibrar a liberdade de expressão com a necessidade de proteger contra a desinformação.

Analistas do setor sugerem que este incidente pode levar a um maior escrutínio das empresas de IA e das plataformas de mídia social, resultando potencialmente em regulamentações mais rígidas e maior responsabilidade pelo conteúdo compartilhado em suas plataformas. "Este é um alerta para todo o setor", disse a Dra. Anya Sharma, uma importante pesquisadora de ética de IA no Instituto de Política de Tecnologia. "Precisamos desenvolver salvaguardas robustas para evitar o uso indevido de tecnologias de IA e garantir que elas sejam usadas de forma responsável."

O X reconheceu as preocupações do governo e afirmou que está "trabalhando ativamente" para melhorar seus recursos de detecção e remoção de deepfakes. A empresa ainda não anunciou medidas específicas que tomará, mas as autoridades indicaram que esperam um plano de ação detalhado dentro das próximas duas semanas. O resultado desta situação pode ter implicações significativas para o futuro da regulamentação da IA e para a luta contra a desinformação online.