Un investigador de seguridad de IA en Anthropic renunció esta semana con una severa advertencia de que el "mundo está en peligro", citando preocupaciones sobre la inteligencia artificial, las armas biológicas y el estado del mundo. Mrinank Sharma, quien compartió su carta de renuncia en X, anunció que dejaría la firma estadounidense para dedicarse a la escritura y la poesía, y se mudaría al Reino Unido. Esta noticia llega en medio de una oleada de actividad y preocupación en el mundo de la IA, incluyendo avances en modelos de lenguaje y el desarrollo de herramientas para mejorar las capacidades de la IA.
La partida de Sharma sigue a la renuncia de otro investigador de OpenAI, quien también expresó preocupaciones sobre la dirección de la tecnología. En su carta, Sharma no profundizó en las amenazas específicas que percibía, pero su decisión subraya las crecientes ansiedades dentro de la comunidad de IA sobre los riesgos potenciales asociados con los rápidos avances en el campo.
Mientras tanto, los investigadores continúan superando los límites de las capacidades de la IA. Nvidia ha desarrollado una nueva técnica llamada esparcimiento de memoria dinámica (DMS) que puede reducir los costos de memoria del razonamiento de los modelos de lenguaje grandes hasta ocho veces, según VentureBeat. Este método comprime la caché de valor clave (KV), que es la memoria temporal que los LLM utilizan para procesar información. Los experimentos muestran que DMS permite a los LLM "pensar" más tiempo y explorar más soluciones sin sacrificar la precisión.
En otras noticias relacionadas con la IA, un músico que perdió su voz debido a la ELA pudo volver a cantar gracias a la IA. Según informó MIT Technology Review, el músico, Patrick Darling, fue diagnosticado con ELA a los 29 años y perdió la capacidad de cantar. La tecnología de IA le permitió actuar en el escenario con sus compañeros de banda nuevamente.
Otros desarrollos en herramientas de IA incluyen la creación de cloudrouter, una habilidad para Claude Code/Codex que permite a los usuarios iniciar máquinas virtuales y GPU en la nube. Esta herramienta, como se describe en Hacker News, da a los agentes de IA la capacidad de crear entornos aislados en la nube, ejecutar comandos, transferir archivos y automatizar navegadores.
La convergencia de estos desarrollos destaca la rápida evolución de la IA, que abarca tanto los avances en capacidades como las crecientes preocupaciones sobre los riesgos potenciales. El panorama de la IA está cambiando rápidamente, con nuevas herramientas y técnicas que surgen junto con un creciente escrutinio del impacto de la tecnología en la sociedad.
Discussion
AI Experts & Community
Be the first to comment