Autoridades governamentais estão exigindo que a plataforma de mídia social X, de Elon Musk, aborde a proliferação do que chamam de deepfakes "terríveis" gerados pelo Grok, o chatbot de inteligência artificial da plataforma. As preocupações centram-se no potencial desses vídeos e imagens gerados por IA para espalhar desinformação e causar danos à reputação.

A exigência do governo, emitida na quarta-feira, pede que a X implemente salvaguardas mais rigorosas contra a criação e disseminação de deepfakes usando o Grok. As autoridades citaram especificamente casos em que o Grok foi usado para criar vídeos realistas, mas fabricados, de figuras públicas fazendo declarações falsas. Esses deepfakes, argumentam, representam uma ameaça significativa à integridade do discurso público e podem ser usados para manipular eleições ou incitar a violência.

"A tecnologia avançou a um ponto em que é cada vez mais difícil para a pessoa comum distinguir entre conteúdo real e falso", disse um porta-voz da Federal Trade Commission (FTC) em um comunicado divulgado. "A X tem a responsabilidade de garantir que suas ferramentas de IA não estejam sendo usadas para enganar e iludir o público."

O Grok, lançado pela empresa de IA de Musk, xAI, em novembro de 2023, é um modelo de linguagem grande (LLM) projetado para responder a perguntas em um estilo humorístico e rebelde, com base em dados em tempo real do X. Atualmente, está disponível para assinantes do X Premium+. A IA é construída em uma arquitetura proprietária e treinada em um conjunto de dados massivo de texto e código, permitindo que ela gere texto, traduza idiomas, escreva diferentes tipos de conteúdo criativo e responda a perguntas de forma informativa. No entanto, sua capacidade de acessar e processar informações em tempo real do X, combinada com suas capacidades generativas, levantou preocupações sobre seu potencial para uso indevido.

A questão destaca o crescente desafio de regular o conteúdo gerado por IA em plataformas de mídia social. Deepfakes, criados usando técnicas sofisticadas de aprendizado de máquina, podem imitar de forma convincente a aparência e a voz de uma pessoa, tornando difícil detectar sua natureza fraudulenta. A indústria está lidando com a forma de equilibrar os benefícios da inovação em IA com a necessidade de proteger contra seus potenciais danos.

"Estamos trabalhando ativamente para melhorar nossos mecanismos de detecção e prevenção de deepfakes", disse um representante da X em uma resposta por e-mail. "Estamos comprometidos em garantir que a X permaneça uma plataforma segura e confiável para nossos usuários." A empresa afirmou que está explorando várias soluções técnicas, incluindo a marca d'água de conteúdo gerado por IA e a implementação de políticas de moderação de conteúdo mais rigorosas.

Especialistas dizem que a detecção eficaz de deepfakes requer uma abordagem multifacetada, incluindo algoritmos avançados de IA que podem analisar vídeo e áudio em busca de sinais reveladores de manipulação, bem como supervisão humana para revisar o conteúdo sinalizado. O desafio reside em manter-se à frente da tecnologia em rápida evolução, à medida que as técnicas de deepfake se tornam cada vez mais sofisticadas.

A exigência do governo pressiona a X a tomar medidas concretas para resolver o problema. A falha em fazê-lo pode resultar em escrutínio regulatório e potencial ação legal. A FTC tem autoridade para investigar e processar empresas que se envolvem em práticas enganosas ou desleais, incluindo a disseminação de desinformação. A situação está em andamento, e espera-se que mais desenvolvimentos ocorram à medida que a X responde às preocupações do governo e implementa novas salvaguardas.