A Ofcom, reguladora de comunicações do Reino Unido, lançou uma investigação à plataforma de mídia social X de Elon Musk, anteriormente conhecida como Twitter, após preocupações sobre a potencial criação e disseminação de deepfakes sexuais gerados pelo Grok, o chatbot de inteligência artificial da X. A investigação, anunciada na quarta-feira, centra-se em saber se a X tem salvaguardas adequadas para impedir que a ferramenta de IA seja usada para produzir e distribuir conteúdo ilícito, especificamente imagens íntimas não consensuais.

A investigação examinará a conformidade da X com a Lei de Segurança Online, que impõe um dever legal de cuidado às plataformas para proteger os usuários de conteúdo e atividades ilegais. A Ofcom tem o poder de multar as empresas em até 10% do seu volume de negócios global por violações da Lei. "Proteger os usuários de conteúdo ilegal online é a nossa principal prioridade", afirmou um porta-voz da Ofcom. "Estamos investigando a X para avaliar se eles tomaram medidas suficientes para impedir que o Grok AI seja usado para criar e compartilhar deepfakes ilegais."

Deepfakes, uma combinação de "deep learning" (aprendizagem profunda) e "fake" (falso), são mídias sintéticas nas quais uma pessoa em uma imagem ou vídeo existente é substituída pela imagem de outra pessoa. Essa tecnologia, alimentada por algoritmos de IA sofisticados, levantou preocupações significativas sobre desinformação, violações de privacidade e o potencial para uso malicioso, incluindo a criação de pornografia não consensual. O Grok, o chatbot de IA da X, é um modelo de linguagem grande (LLM) treinado em um conjunto de dados massivo de texto e código, permitindo que ele gere texto semelhante ao humano, traduza idiomas e responda a perguntas. A preocupação é que os usuários possam solicitar ao Grok que crie imagens sexualmente explícitas de indivíduos sem o seu consentimento.

A investigação destaca os crescentes desafios de regulamentar o conteúdo gerado por IA e as responsabilidades das plataformas que implementam essas tecnologias. Especialistas argumentam que, embora a IA ofereça inúmeros benefícios, também apresenta novas vias para o abuso. "O rápido avanço de tecnologias de IA como o Grok exige medidas proativas para mitigar potenciais danos", disse a Dra. Anya Sharma, professora de ética de IA na Universidade de Cambridge. "As plataformas devem implementar salvaguardas robustas para impedir a criação e disseminação de deepfakes, particularmente aqueles que são sexualmente explícitos e não consensuais."

A X ainda não emitiu uma declaração formal sobre a investigação da Ofcom. No entanto, Musk já declarou o seu compromisso em combater o uso indevido de IA na plataforma. O resultado da investigação pode ter implicações significativas para a X e outras empresas de mídia social que estão integrando a IA em seus serviços. As conclusões da Ofcom provavelmente influenciarão o desenvolvimento de estruturas regulatórias para conteúdo gerado por IA, tanto no Reino Unido quanto internacionalmente. A investigação está em andamento, e a Ofcom deverá fornecer atualizações à medida que avança.