A ironia atingiu o mundo da IA. A GPTZero, uma startup de detecção de IA, encontrou citações alucinadas em artigos apresentados na NeurIPS, uma das principais conferências de IA. A empresa escaneou 4.841 artigos aceitos do evento realizado no mês passado em San Diego. Eles descobriram 100 citações falsas em 51 artigos.
A NeurIPS é um local de pesquisa de IA altamente respeitado. A descoberta levanta questões sobre o uso de grandes modelos de linguagem (LLMs) na escrita acadêmica. Embora 100 citações alucinadas em dezenas de milhares sejam estatisticamente insignificantes, isso destaca um problema potencial. Uma citação imprecisa não invalida a pesquisa, mas prejudica o rigor acadêmico.
A NeurIPS reconheceu o problema. Eles disseram à Fortune que, mesmo com referências incorretas, o conteúdo do artigo não é necessariamente invalidado. A conferência se orgulha de seus altos padrões. O incidente gera debate sobre o papel da IA na pesquisa e a necessidade de uma verificação cuidadosa dos fatos.
Os LLMs são treinados em vastos conjuntos de dados. Eles podem, às vezes, gerar informações plausíveis, mas falsas, conhecidas como "alucinações". Este incidente ressalta a importância da supervisão humana ao usar ferramentas de IA. A comunidade de IA provavelmente discutirá essas descobertas e explorará maneiras de evitar ocorrências futuras. Mais investigações e diretrizes atualizadas para pesquisa assistida por IA são esperadas.
AI-Assisted Journalism
This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.
Deep insights powered by AI
Continue exploring
A Austrália está investindo fortemente na preservação da Grande Barreira de Corais através de várias iniciativas, mas esses esforços podem ser ofuscados pela falha em abordar a principal ameaça: a mudança climática. Cientistas estão pesquisando e intervindo ativamente para proteger o recife, mas o sucesso a longo prazo depende da mitigação do impacto do aquecimento global neste ecossistema vital.
A FDA está considerando incorporar estatísticas Bayesianas em ensaios clínicos, uma medida que pode revolucionar o desenvolvimento de medicamentos, particularmente para doenças raras. Essa mudança em relação à abordagem tradicional de "tábula rasa", que desconsidera pesquisas anteriores, pode acelerar o processo de aprovação e beneficiar pacientes globalmente, ao mesmo tempo em que levanta preocupações sobre um possível viés na seleção de dados de suporte.
O Supremo Tribunal parece inclinado a decidir contra o ex-presidente Trump em Trump v. Wilcox, limitando sua capacidade de demitir líderes do Federal Reserve. Citando a estrutura única do Fed como uma entidade quase privada com precedentes históricos, a decisão do tribunal pode estabelecer uma exceção à ampla autoridade do presidente sobre os funcionários de agências federais. Este caso segue uma decisão anterior que confirmou o poder da administração de demitir um grande número de funcionários do Departamento de Educação.
Sundance está prestes a receber uma dose de brilhantismo da indústria, com a Variety e a Adobe unindo forças para apresentar seis painéis imperdíveis com estrelas como Will Poulter e Dawn Yang do TikTok! Espere insights valiosos sobre tudo, desde o impacto da IA em documentários até a criação de histórias que ressoam com bases de fãs apaixonadas, prometendo uma conversa cultural que deixará todos em polvorosa.
Luzes, câmara, *França*! A Unifrance revelou seus "10 para Ficar de Olho" para 2026, destacando os novos rostos preparados para dominar o cinema francês e cativar o público global. Este programa de prestígio tem um histórico de escolher futuros astros, então fique de olho nesses talentos enquanto embarcam em um ano de eventos de alto nível e, provavelmente, estrelato internacional!
Kyle Gass do Tenacious D está se abrindo sobre seu comentário controverso sobre atirar em Trump, feito em 2024, chamando-o de "péssimo julgamento" e revelando que o desentendimento levou a um afastamento de Jack Black. O incidente, que gerou indignação e cancelamentos de turnês, destaca o delicado equilíbrio entre comédia e sensibilidade cultural no cenário do entretenimento atual, deixando os fãs se perguntando o que o futuro reserva para a dupla icônica.
Uma correção foi emitida para um artigo da Nature publicado em 14 de janeiro de 2026, referente ao papel do "shielding" metabólico dependente de poliaminas na regulação do "splicing" alternativo. Especificamente, a Figura 1g continha rótulos incorretos ("24 h" em vez de "SAT1, SMARCA1 e ACTB"), o que foi retificado nas versões HTML e PDF, garantindo uma representação precisa dos resultados da pesquisa.
Foi emitida uma correção para um artigo da *Nature* sobre o papel do estradiol na inibição da ferroptose e da lesão renal aguda, corrigindo erros introduzidos durante a composição tipográfica. Os erros, incluindo estruturas químicas incorretas nas figuras e tamanhos de amostra imprecisos, foram corrigidos, pois não afetaram as conclusões científicas do estudo. Pesquisadores e leitores devem consultar a versão atualizada para uma representação precisa dos dados.
Uma manifestação editorial de preocupação foi levantada em relação a uma figura em uma publicação da Nature de 1998 sobre o papel da proteína SAP na doença linfoproliferativa ligada ao cromossomo X, uma condição genética que afeta o sistema imunológico. Especificamente, as preocupações envolvem potenciais similaridades em bandas de gel de PCR dentro da Figura 4a, levando o periódico a alertar os leitores, enquanto uma investigação mais aprofundada pode ser justificada para garantir a confiabilidade dos dados publicados. Isso destaca a importância do escrutínio contínuo e da transparência na pesquisa científica para manter a integridade das descobertas relacionadas aos mecanismos críticos da doença.
Cientistas desenvolveram uma plataforma de biologia sintética para projetar bacteriófagos, vírus que têm como alvo bactérias, oferecendo uma nova abordagem promissora para combater infecções resistentes a antibióticos. Este método inovador permite o design e a construção rápidos de fagos personalizados, revolucionando potencialmente as estratégias de tratamento à medida que os antibióticos tradicionais se tornam menos eficazes.
Um novo estudo destaca como diferentes tipos de farinha impactam a composição bacteriana de fermentos naturais, mesmo quando a mesma cepa de levedura prevalece. Essa diversidade microbiana, influenciada pela escolha da farinha pelo padeiro, altera sutilmente o sabor e a textura do pão, demonstrando um exemplo fascinante de evolução microbiana na produção de alimentos.
Um novo estudo revela que discrepâncias entre os exames de sangue de creatinina e cistatina C, ambos usados para avaliar a função renal, podem indicar um risco aumentado de insuficiência renal, doença cardíaca e mortalidade. Esta descoberta sublinha a importância de utilizar ambos os exames para uma avaliação mais abrangente, particularmente em populações vulneráveis como pacientes hospitalizados e idosos, para evitar negligenciar sinais precoces de potenciais crises de saúde.
Discussion
Join the conversation
Be the first to comment