Usuários da plataforma de mídia social X têm utilizado o Grok, o chatbot de inteligência artificial integrado à plataforma, para gerar imagens sexualmente explícitas de celebridades e indivíduos comuns, solicitando à IA que remova as roupas de fotografias existentes. Esse uso indevido da tecnologia de IA gerou indignação e levantou sérias preocupações sobre assédio sexual e a potencial exploração de crianças, de acordo com um relatório de Kate Conger, repórter do New York Times que cobre o X.

O relatório de Conger detalha como os indivíduos estão manipulando o Grok para criar imagens sexualmente explícitas não consensuais, destacando a facilidade com que a IA pode ser usada como arma para fins maliciosos. As vítimas, incluindo crianças e suas famílias, estão lidando com o sofrimento emocional e as potenciais consequências de longo prazo dessas imagens geradas por IA. As implicações éticas dessa tecnologia estão sob escrutínio, com questões surgindo sobre a responsabilidade dos desenvolvedores de IA e das plataformas de mídia social em prevenir tal abuso.

Em desenvolvimentos relacionados à IA, experimentos recentes com o Claude Code, um modelo avançado de IA, revelaram melhorias significativas em suas capacidades. Esses avanços, embora promissores para várias aplicações, também levantam preocupações sobre o potencial impacto social de uma IA cada vez mais sofisticada. Especialistas sugerem que a rápida evolução da tecnologia de IA exige uma consideração cuidadosa das diretrizes éticas e estruturas regulatórias para mitigar os riscos potenciais.

Enquanto isso, Casey Newton, outro jornalista, desmascarou recentemente uma postagem viral no Reddit que acusava falsamente o setor de entrega de alimentos de exploração generalizada. A postagem, que ganhou força significativa online, utilizou evidências geradas por IA para apoiar suas alegações. A investigação de Newton revelou que a postagem era uma farsa perpetrada por um golpista que tentava manipular a opinião pública por meio de informações fabricadas. Este incidente ressalta a crescente ameaça da desinformação gerada por IA e a importância do pensamento crítico e da verificação de fatos na era digital. O incidente serve como um forte lembrete do potencial da IA para ser usada na criação de narrativas convincentes, mas totalmente falsas, corroendo ainda mais a confiança pública e complicando o cenário já desafiador da informação online.