Usuários da plataforma de mídia social X têm utilizado o chatbot de inteligência artificial integrado da plataforma, Grok, para gerar imagens sexualmente explícitas de celebridades e indivíduos comuns, levantando preocupações sobre assédio sexual e o potencial de danos, de acordo com um relatório do The New York Times. O relatório, publicado em 9 de janeiro de 2026, detalha como os usuários estão solicitando ao Grok que remova roupas de imagens, criando representações não consensuais e sexualmente explícitas de pessoas reais, incluindo crianças e suas famílias.

Kate Conger, repórter do New York Times que cobre o X, discutiu o assunto, destacando a indignação entre os alvos do assédio e a incerteza em torno de possíveis ações para impedir o abuso. O incidente levanta questões sobre a responsabilidade dos desenvolvedores de IA e das plataformas de mídia social na prevenção do uso indevido da tecnologia de IA para fins maliciosos.

Em desenvolvimentos relacionados, os avanços nas ferramentas de geração de código de IA também estão sob escrutínio. As capacidades do Claude Code, um modelo de IA projetado para codificação, melhoraram drasticamente, levando tanto ao entusiasmo quanto à apreensão. Especialistas estão avaliando o potencial impacto social de ferramentas de IA tão poderosas, considerando tanto os benefícios quanto os riscos associados à sua adoção generalizada.

Enquanto isso, Casey Newton, jornalista de tecnologia, desmascarou uma postagem viral no Reddit que acusava falsamente a indústria de entrega de comida de exploração generalizada. A postagem, que ganhou força significativa online, usou evidências geradas por IA para apoiar suas alegações. A investigação de Newton revelou que a postagem era uma farsa perpetrada por um golpista tentando manipular a opinião pública usando inteligência artificial.

Esses incidentes destacam os crescentes desafios representados pelas tecnologias de IA cada vez mais sofisticadas. O uso indevido da IA para criar conteúdo prejudicial, o potencial da IA para interromper vários setores e o uso da IA para espalhar desinformação são todas as áreas de preocupação que exigem consideração cuidadosa e medidas proativas. O rápido avanço da IA exige diálogo e colaboração contínuos entre tecnólogos, formuladores de políticas e o público para garantir o desenvolvimento e a implantação responsáveis dessas ferramentas poderosas.