Um pesquisador de segurança de IA na Anthropic renunciou esta semana com um aviso severo de que o "mundo está em perigo", citando preocupações sobre inteligência artificial, armas biológicas e o estado do mundo. Mrinank Sharma, que compartilhou sua carta de demissão no X, anunciou que deixaria a empresa americana para se dedicar à escrita e poesia, e se mudaria para o Reino Unido. Esta notícia surge em meio a uma série de atividades e preocupações no mundo da IA, incluindo avanços em modelos de linguagem e o desenvolvimento de ferramentas para aprimorar as capacidades da IA.
A saída de Sharma segue a renúncia de outro pesquisador da OpenAI, que também expressou preocupações sobre a direção da tecnologia. Em sua carta, Sharma não elaborou sobre as ameaças específicas que percebeu, mas sua decisão ressalta as crescentes ansiedades dentro da comunidade de IA sobre os riscos potenciais associados aos rápidos avanços no campo.
Enquanto isso, os pesquisadores continuam a ultrapassar os limites das capacidades da IA. A Nvidia desenvolveu uma nova técnica chamada sparsificação de memória dinâmica (DMS) que pode reduzir os custos de memória do raciocínio de modelos de linguagem grandes em até oito vezes, de acordo com a VentureBeat. Este método comprime o cache de valor-chave (KV), que é a memória temporária que os LLMs usam para processar informações. Experimentos mostram que o DMS permite que os LLMs "pensem" por mais tempo e explorem mais soluções sem sacrificar a precisão.
Em outras notícias relacionadas à IA, um músico que perdeu a voz devido à ELA conseguiu cantar novamente graças à IA. Conforme relatado pela MIT Technology Review, o músico, Patrick Darling, foi diagnosticado com ELA aos 29 anos e perdeu a capacidade de cantar. A tecnologia de IA permitiu que ele se apresentasse no palco com seus companheiros de banda novamente.
Desenvolvimentos adicionais em ferramentas de IA incluem a criação do cloudrouter, uma habilidade para Claude Code/Codex que permite aos usuários criar VMs e GPUs em nuvem. Esta ferramenta, conforme descrito no Hacker News, dá aos agentes de IA a capacidade de criar sandboxes em nuvem, executar comandos, transferir arquivos e automatizar navegadores.
A convergência desses desenvolvimentos destaca a rápida evolução da IA, englobando tanto avanços nas capacidades quanto crescentes preocupações sobre os riscos potenciais. O cenário da IA está mudando rapidamente, com novas ferramentas e técnicas surgindo juntamente com o aumento do escrutínio do impacto da tecnologia na sociedade.
Discussion
AI Experts & Community
Be the first to comment