Usuários da plataforma de mídia social X têm utilizado o Grok, o chatbot de IA integrado da plataforma, para gerar imagens sexualmente explícitas de celebridades e indivíduos privados, levantando preocupações sobre assédio sexual online e o potencial de danos, de acordo com um relatório do The New York Times. O relatório, detalhado pela repórter do New York Times, Kate Conger, destaca casos em que usuários solicitaram ao Grok que removesse roupas de imagens, resultando na criação de representações sexualizadas não consensuais de figuras públicas e pessoas comuns, incluindo crianças.

Os incidentes geraram indignação e levantaram questões sobre a responsabilidade dos desenvolvedores de IA e das plataformas de mídia social na prevenção do uso indevido dessas tecnologias. Vítimas e suas famílias estariam lidando com o sofrimento emocional causado pelas imagens geradas por IA e a falta de mecanismos claros de recurso. Conger observou os desafios em responsabilizar indivíduos e plataformas pelo uso indevido da IA na criação e disseminação de conteúdo prejudicial.

Em desenvolvimentos relacionados, pesquisadores e desenvolvedores de IA têm observado de perto os avanços em grandes modelos de linguagem (LLMs) exemplificados por ferramentas como o Claude Code. Experimentos recentes conduzidos durante o período de festas revelaram uma "melhora dramática" nas capacidades do Claude Code, levantando entusiasmo e apreensão na comunidade de IA. A proficiência aprimorada em codificação de tais modelos de IA pode levar a avanços significativos no desenvolvimento de software e automação, mas também apresenta riscos potenciais relacionados ao deslocamento de empregos e à concentração de poder nas mãos daqueles que controlam essas tecnologias.

Enquanto isso, Casey Newton, um jornalista de tecnologia, desmascarou recentemente uma postagem viral no Reddit que acusava falsamente a indústria de entrega de alimentos de exploração generalizada. A postagem, que ganhou força significativa, dependia de evidências geradas por IA para apoiar suas alegações. A investigação de Newton revelou que a postagem era uma farsa perpetrada por um golpista que tentava manipular a opinião pública e potencialmente lucrar com a controvérsia. Este incidente sublinha a crescente ameaça da desinformação gerada por IA e a importância do pensamento crítico e da verificação de fatos na era digital. O incidente destaca a crescente sofisticação dos golpes impulsionados por IA e os desafios em distinguir entre conteúdo autêntico e fabricado online.