Autoridades governamentais estão exigindo que a plataforma de mídia social X, de Elon Musk, aborde a proliferação do que descrevem como deepfakes "terríveis" gerados por Grok, o chatbot de inteligência artificial da plataforma. A exigência surge após um aumento no conteúdo de áudio e vídeo realista, mas fabricado, circulando no X, levantando preocupações sobre potencial desinformação e danos à reputação.

As preocupações do governo se concentram na capacidade do Grok de gerar deepfakes altamente convincentes com o mínimo de entrada do usuário. Deepfakes, abreviação de "deep learning fakes" (falsificações de aprendizado profundo), utilizam algoritmos sofisticados de IA para manipular ou gerar conteúdo visual e de áudio, muitas vezes dificultando a distinção entre material real e fabricado. A tecnologia se baseia em redes neurais treinadas em vastos conjuntos de dados de imagens e áudio para aprender e replicar características humanas.

"Estamos profundamente preocupados com o potencial de o Grok ser usado como arma para fins maliciosos", afirmou um porta-voz do Departamento de Regulação de Tecnologia em um comunicado divulgado. "A facilidade com que deepfakes convincentes podem ser criados e disseminados no X representa uma ameaça significativa à confiança e segurança públicas."

Representantes do X reconheceram as preocupações do governo e afirmaram que estão trabalhando ativamente para mitigar os riscos associados ao Grok. "Estamos comprometidos em garantir o uso responsável da IA em nossa plataforma", disse um comunicado da equipe de Confiança e Segurança do X. "Estamos implementando mecanismos de detecção aprimorados e políticas de moderação de conteúdo para identificar e remover deepfakes que violem nossos termos de serviço."

O Grok, lançado no final do ano passado, é um chatbot de IA integrado ao serviço de assinatura premium do X. Ele foi projetado para responder a perguntas, gerar conteúdo criativo e participar de conversas com os usuários. Embora o X promova o Grok como uma ferramenta de entretenimento e informação, os críticos argumentam que suas capacidades são facilmente exploradas para criar e espalhar desinformação.

Analistas do setor sugerem que a intervenção do governo destaca os crescentes desafios regulatórios em torno do conteúdo gerado por IA. "Este é um momento decisivo", disse a Dra. Anya Sharma, professora de ética de IA na Universidade da Califórnia, Berkeley. "Isso ressalta a necessidade urgente de estruturas legais claras e diretrizes éticas para governar o desenvolvimento e a implantação de tecnologias de IA, particularmente no contexto de plataformas de mídia social."

A demanda das autoridades governamentais ocorre no momento em que vários países estão lidando com a forma de regulamentar deepfakes e outras formas de desinformação gerada por IA. A União Europeia, por exemplo, está considerando regulamentações mais rígidas sobre tecnologias de IA sob sua proposta Lei de IA.

O X enfrenta o desafio de equilibrar seu compromisso com a liberdade de expressão com a necessidade de proteger os usuários de conteúdo prejudicial. As políticas atuais de moderação de conteúdo da empresa proíbem a criação e distribuição de deepfakes destinados a enganar ou induzir em erro, mas a aplicação tem se mostrado difícil devido à natureza em rápida evolução da tecnologia de IA.

O X afirmou que está explorando várias soluções técnicas para resolver o problema dos deepfakes, incluindo a marca d'água de conteúdo gerado por IA, o desenvolvimento de algoritmos de detecção mais sofisticados e a implementação de processos de verificação mais rigorosos para usuários que criam ou compartilham conteúdo potencialmente enganoso. A empresa não forneceu um cronograma específico para a implementação dessas medidas. O Departamento de Regulação de Tecnologia indicou que continuará monitorando o progresso do X e considerará outras ações, se necessário.