Autoridades governamentais estão exigindo que a plataforma de mídia social X, de Elon Musk, aborde a proliferação do que descrevem como deepfakes "terríveis" gerados por Grok, o chatbot de inteligência artificial da plataforma. As preocupações centram-se no potencial dessas imagens e vídeos gerados por IA para espalhar desinformação e causar danos à reputação, particularmente na preparação para as próximas eleições.

A demanda, emitida no final de ontem por um grupo bipartidário de senadores, pede que a X implemente salvaguardas mais rigorosas contra a criação e disseminação de deepfakes usando Grok. Especificamente, os senadores estão exortando a X a aprimorar suas políticas de moderação de conteúdo, melhorar suas capacidades de detecção de deepfakes e fornecer aos usuários mecanismos mais claros para relatar suspeitas de desinformação gerada por IA.

"O rápido avanço da tecnologia de IA apresenta oportunidades e desafios", afirmou a senadora Sarah Chen, democrata da Califórnia, em um comunicado à imprensa. "Embora Grok tenha o potencial de ser uma ferramenta valiosa, seu uso indevido para criar conteúdo convincente, mas fabricado, é profundamente preocupante. A X tem a responsabilidade de impedir que sua plataforma seja usada como arma dessa forma."

Deepfakes, tecnicamente conhecidos como mídia sintética, são criados usando algoritmos de IA sofisticados, muitas vezes baseados em técnicas de aprendizado profundo, como redes adversárias generativas (GANs). As GANs envolvem duas redes neurais, um gerador e um discriminador, que trabalham em conjunto. O gerador cria conteúdo sintético, enquanto o discriminador tenta distinguir entre conteúdo real e falso. Através deste processo iterativo, o gerador torna-se cada vez mais adepto da produção de falsificações realistas. A preocupação é que essas falsificações possam ser usadas para se passar por indivíduos, espalhar narrativas falsas e manipular a opinião pública.

A X introduziu o Grok para seus assinantes premium no final de 2023 como um recurso integrado diretamente na plataforma. O Grok foi projetado para responder a perguntas em um estilo conversacional e fornecer informações em tempo real. Embora a X tenha políticas em vigor que proíbem a criação e distribuição de conteúdo prejudicial, os críticos argumentam que essas políticas são insuficientes para enfrentar os desafios únicos representados pelos deepfakes gerados por IA. A plataforma atualmente depende de uma combinação de sistemas de detecção automatizados e relatórios de usuários para identificar e remover conteúdo infrator.

Analistas do setor sugerem que a dependência da X em relatórios de usuários é uma fraqueza significativa, pois os deepfakes podem se espalhar rapidamente antes de serem sinalizados e removidos. Além disso, a tecnologia atual de detecção de deepfakes não é infalível e falsificações sofisticadas podem frequentemente escapar da detecção. "O desafio é ficar à frente da curva", explica o Dr. David Lee, um pesquisador de IA da Universidade de Stanford. "À medida que os modelos de IA se tornam mais poderosos, também aumenta a capacidade de criar deepfakes convincentes. As plataformas precisam investir em tecnologias de detecção de ponta e estratégias robustas de moderação de conteúdo."

A X ainda não emitiu uma resposta formal às demandas do governo. No entanto, em uma entrevista recente, a CEO Linda Yaccarino afirmou que a empresa está comprometida em combater a desinformação e está explorando ativamente novas maneiras de enfrentar os desafios representados pela IA. "Estamos levando este problema muito a sério", disse Yaccarino. "Estamos trabalhando para desenvolver e implantar tecnologias avançadas para detectar e remover deepfakes de nossa plataforma."

A intervenção do governo destaca o crescente escrutínio regulatório em torno da IA e seu potencial impacto na sociedade. Vários países estão atualmente considerando legislação para regular o desenvolvimento e a implantação de tecnologias de IA, com um foco particular em abordar os riscos associados a deepfakes e outras formas de desinformação gerada por IA. A União Europeia, por exemplo, está finalizando seu AI Act, que inclui disposições para regular o uso de IA em aplicações de alto risco, como reconhecimento facial e moderação de conteúdo.

Os próximos passos provavelmente envolverão novas discussões entre autoridades governamentais e representantes da X para desenvolver um plano concreto para abordar as preocupações levantadas. O resultado dessas discussões pode ter implicações significativas para o futuro da regulamentação da IA e a responsabilidade das plataformas de mídia social no combate à desinformação.