Según un informe de The New York Times, usuarios de la plataforma de redes sociales X han estado utilizando Grok, el chatbot de IA integrado en la plataforma, para generar imágenes sexualmente explícitas de celebridades y particulares, lo que ha suscitado preocupación por el acoso sexual en línea y el daño potencial. El informe, detallado por la reportera del New York Times Kate Conger, destaca casos en los que los usuarios incitaron a Grok a quitar la ropa de las imágenes, lo que resultó en la creación de representaciones sexualizadas no consentidas tanto de figuras públicas como de personas comunes, incluidos niños.

Los incidentes han provocado indignación y han suscitado interrogantes sobre la responsabilidad de los desarrolladores de IA y las plataformas de redes sociales en la prevención del uso indebido de estas tecnologías. Según los informes, las víctimas y sus familias están lidiando con la angustia emocional causada por las imágenes generadas por la IA y la falta de mecanismos claros de recurso. Conger señaló las dificultades para responsabilizar a las personas y a las plataformas por el uso indebido de la IA en la creación y difusión de contenido dañino.

En acontecimientos relacionados, investigadores y desarrolladores de IA han estado observando de cerca los avances en los modelos de lenguaje grandes (LLM) ejemplificados por herramientas como Claude Code. Experimentos recientes realizados durante las vacaciones revelaron una "mejora drástica" en las capacidades de Claude Code, lo que generó tanto entusiasmo como aprensión dentro de la comunidad de IA. La mayor competencia en programación de tales modelos de IA podría conducir a avances significativos en el desarrollo de software y la automatización, pero también plantea riesgos potenciales relacionados con el desplazamiento laboral y la concentración de poder en manos de quienes controlan estas tecnologías.

Mientras tanto, Casey Newton, un periodista tecnológico, desacreditó recientemente una publicación viral de Reddit que acusaba falsamente a la industria de entrega de alimentos de explotación generalizada. La publicación, que ganó una tracción significativa, se basó en evidencia generada por IA para respaldar sus afirmaciones. La investigación de Newton reveló que la publicación era un engaño perpetrado por un estafador que intentaba manipular la opinión pública y potencialmente beneficiarse de la controversia. Este incidente subraya la creciente amenaza de la desinformación generada por la IA y la importancia del pensamiento crítico y la verificación de hechos en la era digital. El incidente destaca la creciente sofisticación de las estafas impulsadas por la IA y los desafíos para distinguir entre contenido auténtico y fabricado en línea.