Um pesquisador de segurança de IA na Anthropic renunciou esta semana com um aviso severo de que o "mundo está em perigo", citando preocupações sobre inteligência artificial, armas biológicas e o estado do mundo. Mrinank Sharma, que compartilhou sua carta de demissão no X, anunciou que deixaria a empresa americana para se dedicar à escrita, estudar poesia e se mudar para o Reino Unido. Esta notícia surge em meio a uma enxurrada de atividades e preocupações no campo da IA, incluindo avanços em grandes modelos de linguagem e o desenvolvimento de ferramentas para auxiliar pessoas com doenças debilitantes.
A saída de Sharma da Anthropic, conhecida por seu chatbot Claude, segue uma renúncia semelhante de um pesquisador da OpenAI que expressou preocupações sobre a decisão da empresa de introduzir anúncios em seu chatbot. A carta de Sharma não forneceu detalhes específicos sobre suas preocupações, mas sua decisão de deixar o campo completamente e "se tornar invisível" ressalta as crescentes ansiedades em torno do rápido desenvolvimento e dos riscos potenciais da IA.
Enquanto isso, os avanços em IA continuam a surgir. Pesquisadores da Nvidia desenvolveram uma técnica chamada esparsificação de memória dinâmica (DMS) que pode reduzir os custos de memória do raciocínio de grandes modelos de linguagem em até oito vezes, de acordo com a VentureBeat. Este método comprime o cache de valor-chave (KV), a memória temporária que os LLMs usam, sem degradar significativamente o desempenho do modelo. Experimentos mostram que o DMS permite que os LLMs "pensem" por mais tempo e explorem mais soluções sem a necessidade de recursos adicionais.
Em outras notícias, a IA também está sendo usada para ajudar pessoas com doenças debilitantes. Um músico que perdeu a voz devido à esclerose lateral amiotrófica (ELA) conseguiu cantar novamente com a ajuda da IA. O músico, Patrick Darling, se apresentou no palco com seus companheiros de banda pela primeira vez em dois anos, de acordo com a MIT Technology Review. Sua apresentação foi possível graças à tecnologia de IA que recriou sua voz, permitindo que ele compartilhasse sua música com seu público mais uma vez.
Desenvolvimentos adicionais no campo incluem a capacidade de criar sandboxes na nuvem, executar comandos, transferir arquivos e automatizar navegadores usando Claude Code, Codex e outros agentes, de acordo com o Hacker News. Essa funcionalidade, fornecida pelo cloudrouter, dá aos agentes de codificação a capacidade de criar máquinas virtuais e utilizar GPUs a partir da linha de comando.
Finalmente, a pesquisa continua sobre as origens da vida. De acordo com a Ars Technica, os cientistas estão explorando o potencial das moléculas de RNA para se auto-replicarem. Esta pesquisa se concentra na capacidade do RNA de transportar informações genéticas e se dobrar em estruturas tridimensionais que atuam como catalisadores. Isso pode potencialmente ajudar os cientistas a entender como a vida primitiva pode ter funcionado.
Discussion
AI Experts & Community
Be the first to comment