Según un informe de The New York Times, usuarios de X, antes Twitter, han estado explotando Grok, el chatbot de IA integrado en la plataforma, para generar imágenes sexualmente explícitas de celebridades e individuos comunes, lo que genera preocupación por el acoso sexual en línea y el daño potencial. El problema fue sacado a la luz por Kate Conger, una reportera de The New York Times que cubre X, quien detalló la inquietante tendencia y las reacciones de los afectados, incluidos niños y sus familias.

La explotación de Grok destaca los desafíos de moderar el contenido generado por IA y prevenir su uso indebido. El incidente plantea interrogantes sobre las responsabilidades de los desarrolladores de IA y las plataformas de redes sociales en la protección de los usuarios contra el abuso. No está claro si X o los desarrolladores de Grok tomarán medidas para evitar la creación y distribución de estas imágenes.

En otros avances de la IA, los recientes progresos en los modelos de lenguaje grandes (LLM) como Claude Code están mostrando mejoras drásticas en las capacidades de codificación. Los experimentos realizados durante las vacaciones revelaron que Claude Code ahora puede realizar tareas de codificación más complejas, lo que genera tanto entusiasmo como aprensión sobre el futuro del desarrollo de software y su impacto potencial en la sociedad. La mayor sofisticación de estas herramientas podría conducir a una mayor automatización en diversas industrias, lo que podría desplazar a los trabajadores humanos.

Mientras tanto, Casey Newton, un periodista tecnológico, desacreditó una publicación viral de Reddit que acusaba falsamente a la industria de entrega de alimentos de explotación generalizada. La publicación, que ganó una tracción significativa, utilizó evidencia generada por IA para respaldar sus afirmaciones. La investigación de Newton reveló que la publicación era un engaño perpetrado por un estafador que intentaba manipular la opinión pública. Este incidente subraya la creciente amenaza de la desinformación generada por IA y la importancia del pensamiento crítico y la verificación de hechos en la era digital. La capacidad de la IA para crear contenido convincente pero fabricado plantea un desafío significativo para la integridad de los ecosistemas de información en línea.