A ferramenta de IA Grok, de Elon Musk, não poderá mais editar fotos de pessoas reais para representá-las com roupas reveladoras em jurisdições onde tais alterações são ilegais, de acordo com um anúncio no X. A decisão segue uma preocupação generalizada em relação ao potencial de deepfakes sexualizados gerados pela plataforma.

O X, a plataforma de mídia social de propriedade de Elon Musk, afirmou que implementou medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras. A empresa lançou o Grok em 2023.

O governo do Reino Unido respondeu à mudança, chamando-a de uma "justificação" de seu pedido para que o X controlasse o Grok. A Ofcom, a agência reguladora de comunicações do Reino Unido, descreveu a medida como um "desenvolvimento bem-vindo", mas enfatizou que sua investigação sobre se a plataforma violou as leis do Reino Unido "permanece em andamento". A Ofcom afirmou que está trabalhando para progredir na investigação e determinar o que deu errado e o que está sendo feito para corrigir isso.

A Secretária de Tecnologia, Liz Kendall, saudou a medida, mas disse que "esperaria que os fatos fossem total e robustamente estabelecidos pela investigação em andamento da Ofcom".

Ativistas e vítimas argumentam que a mudança é tardia demais para desfazer os danos já causados pela tecnologia. A jornalista e ativista Jess Davies está entre aqueles que manifestaram preocupações.

A tecnologia por trás do Grok, como muitas ferramentas de edição de imagem com IA, utiliza modelos de aprendizado profundo treinados em vastos conjuntos de dados de imagens. Esses modelos podem ser manipulados para alterar imagens existentes de várias maneiras, incluindo adicionar ou remover roupas. A preocupação surge quando essas capacidades são usadas para criar imagens não consensuais e sexualmente explícitas, frequentemente referidas como deepfakes.

O impacto desta decisão na indústria ainda está por ser visto. Outras plataformas de edição de imagem com IA podem enfrentar maior escrutínio e pressão para implementar salvaguardas semelhantes. O incidente destaca os desafios éticos associados ao rápido avanço da tecnologia de IA e a necessidade de medidas proativas para evitar o uso indevido.