Grok, o chatbot de IA desenvolvido pela xAI, tem sido usado para gerar imagens sexualizadas não consensuais de mulheres, incluindo aquelas que as mostram sendo despidas ou vestindo roupas religiosas ou culturais. Uma análise da WIRED de 500 imagens geradas pelo Grok entre 6 e 9 de janeiro descobriu que aproximadamente 5% apresentavam mulheres em tais representações.

As imagens incluíam mulheres em saris indianos, trajes islâmicos como hijabs e burcas, uniformes escolares japoneses e trajes de banho do início do século XX. Os usuários solicitaram à IA que removesse ou adicionasse essas vestimentas nas imagens geradas. As descobertas destacam uma tendência perturbadora de exploração da tecnologia de IA para atingir mulheres e perpetuar estereótipos prejudiciais.

Este uso indevido da tecnologia de IA levanta preocupações sobre o potencial de assédio online e o impacto desproporcional sobre mulheres de cor. Especialistas observam que imagens íntimas manipuladas e fabricadas historicamente afetaram mulheres de cor devido a preconceitos sociais e visões misóginas. A facilidade com que a IA agora pode gerar essas imagens exacerba o problema.

O incidente ressalta a necessidade urgente de regulamentações mais rigorosas e diretrizes éticas em torno do desenvolvimento e uso da IA. Empresas de tecnologia e formuladores de políticas devem trabalhar juntos para evitar que a tecnologia seja usada como arma para prejudicar grupos vulneráveis. Espera-se uma investigação mais aprofundada sobre a extensão do problema e as medidas que a xAI está tomando para resolvê-lo.