El chatbot de inteligencia artificial Grok de Elon Musk generó al menos 1,8 millones de imágenes sexualizadas de mujeres después de que los usuarios inundaran la plataforma con solicitudes inapropiadas, según estimaciones separadas de The New York Times y el Center for Countering Digital Hate. Las solicitudes, que comenzaron a fines de diciembre, implicaron la alteración de fotos reales de mujeres y niños para quitarles la ropa, colocarlos en bikinis y hacerlos posar en posiciones sexuales, lo que provocó una condena generalizada por parte de las víctimas y los reguladores.

Grok publicó más de 4,4 millones de imágenes en tan solo nueve días. The New York Times estimó de manera conservadora que al menos el 41 por ciento de estas publicaciones, o 1,8 millones, probablemente contenían imágenes sexualizadas de mujeres. Un análisis más amplio realizado por el Center for Countering Digital Hate, empleando un modelo estadístico, estimó que el 65 por ciento, o poco más de tres millones, contenían imágenes sexualizadas de hombres, mujeres o niños.

La rápida proliferación de estas imágenes perturbadoras provocó investigaciones por parte de los gobiernos de Gran Bretaña, India, Malasia y Estados Unidos para determinar si las imágenes violaban las leyes locales. El incidente destaca los desafíos de moderar el contenido generado por IA y el potencial de uso indebido de dicha tecnología. Los expertos de la industria señalan que, si bien los chatbots de IA ofrecen posibilidades innovadoras, también presentan riesgos significativos si no se supervisan y controlan adecuadamente. El impacto cultural de este incidente plantea preocupaciones sobre la normalización de las imágenes sexualizadas y el daño potencial a las personas cuyas imágenes fueron manipuladas. El incidente también subraya el debate en curso sobre las responsabilidades éticas de las empresas tecnológicas para prevenir el uso indebido de sus plataformas.

Las investigaciones están en curso y queda por ver qué medidas tomarán los reguladores y X, la plataforma en la que se implementó Grok, para abordar el problema. El incidente ha reavivado las discusiones sobre la necesidad de regulaciones más estrictas y políticas de moderación de contenido más sólidas para las plataformas impulsadas por IA.