O governo está enfrentando críticas por supostamente atrasar a implementação de legislação destinada a combater deepfakes, particularmente à luz do surgimento do Grok AI e seu potencial uso indevido. Críticos argumentam que o atraso deixa o público vulnerável a formas cada vez mais sofisticadas de desinformação e manipulação.

As acusações se concentram no ritmo lento percebido do progresso em um projeto de lei proposto que estabeleceria estruturas legais para identificar, rotular e penalizar a criação e distribuição de conteúdo deepfake. Deepfakes, que são mídias sintéticas nas quais uma pessoa em uma imagem ou vídeo existente é substituída pela imagem de outra pessoa, são criados usando técnicas de inteligência artificial, principalmente aprendizado profundo. Essas técnicas permitem a geração de vídeos e gravações de áudio altamente realistas, porém fabricados.

"Quanto mais esperarmos para promulgar uma legislação robusta, maior será o risco de deepfakes serem usados para minar eleições, danificar reputações e semear discórdia", afirmou Laura Cress, uma especialista líder em ética e política de IA, em uma entrevista recente. Cress enfatizou ainda a urgência da situação, apontando para os rápidos avanços na tecnologia de IA, particularmente o desenvolvimento do Grok AI, como um catalisador para potencial uso indevido.

O Grok AI, desenvolvido pela xAI, é um modelo de linguagem grande (LLM) conhecido por suas habilidades de conversação e acesso a informações em tempo real por meio da plataforma X (anteriormente Twitter). LLMs são sistemas de IA treinados em conjuntos de dados massivos de texto e código, permitindo-lhes gerar texto semelhante ao humano, traduzir idiomas e responder a perguntas. Embora o Grok AI seja projetado para fins benéficos, suas capacidades podem ser exploradas para criar e disseminar deepfakes convincentes em escala, de acordo com as preocupações levantadas por vários observadores de tecnologia.

A legislação proposta visa abordar vários aspectos-chave do problema deepfake. Inclui disposições para rotulagem obrigatória de conteúdo gerado por IA, estabelecimento de recursos legais para indivíduos cujas imagens são usadas sem consentimento e imposição de penalidades àqueles que criam e distribuem deepfakes maliciosos. O projeto de lei também busca esclarecer as responsabilidades legais das plataformas de mídia social na identificação e remoção de conteúdo deepfake.

No entanto, o projeto de lei enfrentou inúmeros obstáculos, incluindo debates sobre o escopo da legislação, preocupações sobre potenciais impactos na liberdade de expressão e divergências sobre a viabilidade técnica da detecção de deepfakes. Alguns argumentam que uma legislação excessivamente ampla poderia sufocar usos legítimos da tecnologia de IA, como expressão artística e sátira. Outros expressam ceticismo sobre a capacidade dos métodos de detecção atuais de acompanhar os rápidos avanços na tecnologia deepfake.

"Encontrar o equilíbrio certo entre proteger o público de danos e preservar a liberdade de expressão é um desafio complexo", disse um porta-voz do governo, que pediu anonimato devido à sensibilidade do assunto. "Estamos comprometidos em garantir que qualquer legislação que promulgarmos seja eficaz e constitucional."

O status atual do projeto de lei é que ele permanece sob revisão por uma comissão parlamentar. Uma série de audiências públicas estão agendadas para as próximas semanas, durante as quais especialistas, partes interessadas e membros do público terão a oportunidade de dar sua opinião. O governo indicou que pretende finalizar a legislação até o final do ano, mas os críticos permanecem céticos, citando atrasos anteriores e falta de um compromisso claro. O debate destaca a tensão contínua entre a inovação tecnológica e a necessidade de estruturas regulatórias para mitigar os riscos potenciais.