Un investigador de seguridad de IA en Anthropic renunció esta semana con una severa advertencia de que el "mundo está en peligro", citando preocupaciones sobre la inteligencia artificial, las armas biológicas y el estado del mundo. Mrinank Sharma, quien compartió su carta de renuncia en X, anunció que dejaría la firma estadounidense para dedicarse a escribir, estudiar poesía y trasladarse al Reino Unido. Esta noticia llega en medio de una oleada de actividad y preocupación en el campo de la IA, incluyendo avances en modelos de lenguaje grandes y el desarrollo de herramientas para ayudar a aquellos con enfermedades debilitantes.
La salida de Sharma de Anthropic, conocida por su chatbot Claude, sigue a una renuncia similar de un investigador de OpenAI que expresó preocupaciones sobre la decisión de la compañía de introducir publicidad en su chatbot. La carta de Sharma no proporcionó detalles específicos sobre sus preocupaciones, pero su decisión de abandonar el campo por completo y "volverse invisible" subraya las crecientes ansiedades que rodean el rápido desarrollo y los riesgos potenciales de la IA.
Mientras tanto, los avances en IA continúan emergiendo. Investigadores de Nvidia han desarrollado una técnica llamada esparcimiento dinámico de memoria (DMS) que puede reducir los costos de memoria del razonamiento de modelos de lenguaje grandes hasta ocho veces, según VentureBeat. Este método comprime la caché de valor clave (KV), la memoria temporal que utilizan los LLM, sin degradar significativamente el rendimiento del modelo. Los experimentos muestran que DMS permite a los LLM "pensar" más tiempo y explorar más soluciones sin la necesidad de recursos adicionales.
En otras noticias, la IA también se está utilizando para ayudar a aquellos con enfermedades debilitantes. Un músico que perdió su voz debido a la esclerosis lateral amiotrófica (ELA) pudo volver a cantar con la ayuda de la IA. El músico, Patrick Darling, actuó en el escenario con sus compañeros de banda por primera vez en dos años, según MIT Technology Review. Su actuación fue posible gracias a la tecnología de IA que recreó su voz, permitiéndole compartir su música con su audiencia una vez más.
Otros desarrollos en el campo incluyen la capacidad de crear sandboxes en la nube, ejecutar comandos, transferir archivos y automatizar navegadores utilizando Claude Code, Codex y otros agentes, según Hacker News. Esta funcionalidad, proporcionada por cloudrouter, da a los agentes de codificación la capacidad de crear máquinas virtuales y utilizar GPU desde la línea de comandos.
Finalmente, la investigación continúa sobre los orígenes de la vida. Según Ars Technica, los científicos están explorando el potencial de las moléculas de ARN para autoreplicarse. Esta investigación se centra en la capacidad del ARN para transportar información genética y plegarse en estructuras tridimensionales que actúan como catalizadores. Esto podría ayudar a los científicos a comprender cómo pudo haber funcionado la vida temprana.
Discussion
AI Experts & Community
Be the first to comment