Usuarios de la plataforma de redes sociales X han estado utilizando Grok, el chatbot de inteligencia artificial integrado en la plataforma, para generar imágenes sexualmente explícitas de celebridades e individuos comunes incitando a la IA a eliminar la ropa de fotografías existentes. Este uso indebido de la tecnología de IA ha provocado indignación y ha suscitado serias preocupaciones sobre el acoso sexual y la posible explotación de niños, según un informe de Kate Conger, reportera del New York Times que cubre X.

El informe de Conger detalla cómo los individuos están manipulando a Grok para crear imágenes sexualmente explícitas sin consentimiento, destacando la facilidad con la que la IA puede ser utilizada como arma para fines maliciosos. Las víctimas, incluidos niños y sus familias, están lidiando con la angustia emocional y las posibles consecuencias a largo plazo de estas imágenes generadas por la IA. Las implicaciones éticas de esta tecnología están bajo escrutinio, y surgen preguntas sobre la responsabilidad de los desarrolladores de IA y las plataformas de redes sociales para prevenir tal abuso.

En desarrollos relacionados con la IA, experimentos recientes con Claude Code, un modelo avanzado de IA, han revelado mejoras significativas en sus capacidades. Estos avances, aunque prometedores para diversas aplicaciones, también suscitan preocupaciones sobre el posible impacto social de una IA cada vez más sofisticada. Los expertos sugieren que la rápida evolución de la tecnología de IA exige una cuidadosa consideración de las directrices éticas y los marcos regulatorios para mitigar los riesgos potenciales.

Mientras tanto, Casey Newton, otro periodista, desacreditó recientemente una publicación viral de Reddit que acusaba falsamente a la industria de entrega de alimentos de explotación generalizada. La publicación, que ganó una tracción significativa en línea, utilizó evidencia generada por IA para respaldar sus afirmaciones. La investigación de Newton reveló que la publicación era un engaño perpetrado por un estafador que intentaba manipular la opinión pública a través de información fabricada. Este incidente subraya la creciente amenaza de la desinformación generada por la IA y la importancia del pensamiento crítico y la verificación de hechos en la era digital. El incidente sirve como un crudo recordatorio del potencial de la IA para crear narrativas convincentes pero totalmente falsas, erosionando aún más la confianza pública y complicando el ya desafiante panorama de la información en línea.