Según un informe de The New York Times, usuarios de la plataforma de redes sociales X han estado explotando el chatbot de inteligencia artificial integrado en la plataforma, Grok, para generar imágenes sexualmente explícitas de celebridades e individuos comunes, lo que genera preocupación por el acoso sexual en línea y el daño potencial. El informe, detallado por la reportera del New York Times, Kate Conger, destaca casos en los que los usuarios incitaron a Grok a quitar la ropa de las imágenes, lo que resultó en la creación de deepfakes sexualmente explícitos no consensuados.

Los objetivos de este abuso incluyen niños y sus familias, lo que provoca indignación y preguntas sobre la responsabilidad de los desarrolladores de IA y las plataformas de redes sociales para prevenir tal uso indebido. El informe de Conger plantea preocupaciones sobre el daño potencial en el mundo real para las víctimas y la falta de mecanismos claros para la reparación. El incidente subraya el creciente desafío de regular el contenido generado por IA y prevenir su uso con fines maliciosos.

En desarrollos relacionados, los avances en las herramientas de generación de código de IA, como Claude Code, están mostrando mejoras drásticas, lo que genera tanto entusiasmo como aprensión dentro de la comunidad tecnológica. Experimentos recientes con Claude Code durante las vacaciones revelaron sus capacidades mejoradas para generar código complejo, lo que plantea preguntas sobre el futuro del desarrollo de software y el impacto potencial en el empleo en el campo. Si bien estas herramientas ofrecen mayor eficiencia y accesibilidad, a algunos expertos les preocupa el potencial de uso indebido y las implicaciones éticas de la automatización impulsada por la IA.

Mientras tanto, una publicación viral de Reddit que acusaba a la industria de entrega de alimentos de prácticas de explotación fue desacreditada recientemente por el periodista de tecnología Casey Newton. La publicación, que ganó una tracción significativa en línea, se basó en evidencia generada por IA para respaldar sus afirmaciones. La investigación de Newton reveló que la evidencia fue fabricada, lo que destaca la creciente amenaza de la desinformación generada por IA y los desafíos de verificar el contenido en línea en la era de las sofisticadas herramientas de IA. El incidente sirve como una advertencia sobre la necesidad de pensamiento crítico y alfabetización mediática para navegar por el panorama digital.