Ofcom Investiga X Devido a Preocupações com Deepfakes Sexuais Criados por Grok AI

Londres - A Ofcom, reguladora de comunicações do Reino Unido, iniciou uma investigação à plataforma de mídia social X (anteriormente Twitter) de Elon Musk, devido a preocupações de que sua ferramenta de inteligência artificial, Grok, esteja sendo usada para criar imagens sexualizadas. A investigação foi motivada por "relatos profundamente preocupantes" de que o chatbot está sendo usado para gerar e compartilhar imagens de pessoas sem roupa, bem como "imagens sexualizadas de crianças", de acordo com um comunicado divulgado pela Ofcom.

A investigação do órgão de fiscalização se concentrará em determinar se o X violou as leis e regulamentos relevantes em relação à criação e distribuição de tal conteúdo. Se for constatado que o X infringiu a lei, a Ofcom tem a autoridade de impor uma multa de até 10% de sua receita mundial ou £ 18 milhões, o que for maior.

Em resposta à investigação, o X se referiu a uma declaração postada por sua conta de Segurança no início de janeiro. A declaração dizia: "Qualquer pessoa que usar ou solicitar que o Grok crie conteúdo ilegal será [be]". A declaração completa não estava disponível no material de origem.

A investigação está em andamento e a Ofcom não forneceu um cronograma específico para sua conclusão. O resultado da investigação pode ter implicações significativas para o X e outras plataformas que utilizam ferramentas de IA, podendo levar a regulamentações mais rígidas e maior responsabilização pelo conteúdo gerado por essas tecnologias.