A Microsoft corrigiu uma vulnerabilidade de segurança em seu assistente de IA Copilot que permitia que invasores extraíssem dados confidenciais do usuário por meio de um único clique em um link aparentemente inofensivo. Pesquisadores de segurança da Varonis descobriram a falha e demonstraram como um ataque em vários estágios poderia exfiltrar informações como o nome, a localização e detalhes do histórico de bate-papo do Copilot de um usuário.
O ataque, uma vez iniciado pelo usuário ao clicar no link, continuava a ser executado mesmo após o fechamento da janela de bate-papo do Copilot, não exigindo mais nenhuma interação. De acordo com a Varonis, o exploit ignorou os controles de segurança de endpoint corporativos e os mecanismos de detecção normalmente empregados por aplicativos de proteção de endpoint. "Depois que entregamos este link com este prompt malicioso, o usuário só precisa clicar no link e a tarefa maliciosa é executada imediatamente", disse Dolev Taler, pesquisador de segurança da Varonis, em um comunicado à Ars Technica. "Mesmo que o usuário apenas clique no link e feche imediatamente a guia do bate-papo do Copilot, o exploit ainda funciona."
A vulnerabilidade destaca os riscos inerentes associados a grandes modelos de linguagem (LLMs) como o Copilot, que estão cada vez mais integrados em aplicativos cotidianos. Os LLMs aprendem com vastos conjuntos de dados e podem gerar texto semelhante ao humano, mas sua complexidade também os torna suscetíveis a falhas de segurança imprevistas. Este incidente ressalta a importância de medidas de segurança robustas e monitoramento contínuo para proteger os dados do usuário dentro de plataformas alimentadas por IA.
O vetor de ataque explorou uma fraqueza em como o Copilot processava e executava instruções incorporadas no link. Ao criar um prompt malicioso incorporado em um URL Copilot legítimo, os pesquisadores conseguiram acionar uma cadeia de eventos que levou à exfiltração de dados. Este tipo de ataque, conhecido como ataque de injeção de prompt, é uma preocupação crescente no campo da segurança de IA. A injeção de prompt ocorre quando um invasor manipula a entrada para um modelo de IA para fazê-lo executar ações não intencionais, como revelar informações confidenciais ou executar código malicioso.
As implicações desta vulnerabilidade vão além dos usuários individuais. Em ambientes corporativos, onde o Copilot é usado para acessar e processar dados de negócios confidenciais, um ataque bem-sucedido pode levar a violações de dados significativas e perdas financeiras. O incidente também levanta questões mais amplas sobre a segurança e a privacidade dos assistentes alimentados por IA e a necessidade de maior transparência e responsabilidade em seu desenvolvimento e implantação.
A Microsoft lançou uma correção para resolver a vulnerabilidade, e os usuários são aconselhados a atualizar suas instalações do Copilot para a versão mais recente. A empresa também está trabalhando para melhorar a segurança de suas plataformas de IA e para desenvolver novos métodos para detectar e prevenir ataques de injeção de prompt. À medida que a tecnologia de IA continua a evoluir, é crucial que desenvolvedores e pesquisadores de segurança colaborem para identificar e mitigar vulnerabilidades potenciais, garantindo que essas ferramentas poderosas sejam usadas de forma segura e responsável. O incidente serve como um lembrete de que até mesmo interações aparentemente simples com sistemas de IA podem ter implicações de segurança significativas, e que a vigilância é essencial para proteger os dados do usuário na era da inteligência artificial.
AI-Assisted Journalism
This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.
Deep insights powered by AI
Continue exploring
A Yellow Affair adquiriu "Árru", um drama Sámi com estreia marcada na Berlinale, que destaca o trauma intergeracional e a resiliência dentro da comunidade Sámi. Através de música yoik evocativa e paisagens árticas, o filme explora as complexidades da identidade Sámi e a luta para equilibrar a preservação cultural com a ação ética, oferecendo um comentário pungente sobre o património.
Uma pesquisa recente da Nature explora a prevalência de atividades paralelas entre estudantes de doutorado, impulsionada por pressões financeiras como bolsas insuficientes e preocupações com a segurança no emprego em meio aos avanços da IA. Essa tendência reflete um clima econômico mais amplo, onde jovens pesquisadores, particularmente a Geração Z, estão cada vez mais buscando renda suplementar para lidar com o aumento do custo de vida e buscar empreendimentos empresariais.
Um novo filme da Nature explora as perspectivas de pioneiros da IA sobre o vasto potencial da tecnologia em setores como saúde e segurança nacional, ao mesmo tempo em que aborda preocupações sobre desinformação e impacto social. A discussão destaca o papel crítico da ação humana na definição da trajetória da IA e a necessidade de uma consideração informada de suas implicações éticas.
A análise de fragmentos de cerâmica da Mesopotâmia com 8.000 anos revela evidências surpreendentemente precoces de pensamento matemático estruturado, antecedendo os primeiros números escritos em milênios. Esta descoberta destaca as capacidades cognitivas das sociedades antigas e estimula uma investigação mais aprofundada sobre as origens e a evolução do raciocínio matemático, influenciando potencialmente a forma como os modelos de IA são treinados para compreender conceitos abstratos.
Pesquisadores identificaram "ondas escuras marinhas", períodos súbitos e prolongados de escuridão subaquática causados por fatores como escoamento de sedimentos e proliferação de algas, que ameaçam ecossistemas marinhos dependentes de luz. Esta nova estrutura ajuda os cientistas a entender e comparar esses eventos de apagão, destacando o risco crescente para florestas de algas e pradarias marinhas devido ao declínio da clareza da água. O estudo ressalta a importância de entender como esses eventos impactam a vida marinha e as implicações mais amplas para a saúde do ecossistema costeiro.
Pesquisas indicam que os incêndios florestais no Alasca Ártico atingiram um pico de 3.000 anos devido às mudanças climáticas, com o aumento das temperaturas secando o solo e promovendo o crescimento de arbustos, criando condições para incêndios intensos. A análise de amostras de turfa e dados de satélite confirma um aumento significativo na atividade de incêndios desde meados do século XX, sinalizando uma mudança para um regime de incêndios mais perigoso no Ártico, com potenciais impactos nos ecossistemas e nos padrões climáticos globais.
Pesquisadores identificaram um mecanismo pelo qual algumas estatinas induzem dor muscular: ao se ligarem a uma proteína muscular e causarem vazamento de cálcio dentro das células. Esta descoberta oferece um caminho potencial para o desenvolvimento de novas estatinas ou tratamentos que atenuem os efeitos colaterais relacionados aos músculos, melhorando a adesão do paciente e a saúde cardiovascular.
Uma nova forma de diabetes neonatal foi identificada, decorrente de mutações no gene TMEM167A que prejudicam a produção de insulina. Esta descoberta, utilizando sequenciamento de DNA avançado e modelos de células-tronco, não só esclarece as origens genéticas do diabetes de início precoce, mas também estabelece uma ligação entre diabetes e condições neurológicas, potencialmente reformulando nossa compreensão e tratamento da doença.
Republicanos do Senado bloquearam uma resolução que teria exigido aprovação do Congresso para ações militares na Venezuela, revertendo o apoio bipartidário inicial após garantias da Casa Branca. A derrota, alcançada com uma votação de 51-50 e o voto de desempate do Vice-Presidente, seguiu-se às críticas do Presidente Trump aos Republicanos que inicialmente apoiaram a medida, que foi motivada pela captura do Presidente venezuelano Nicolás Maduro pelos EUA. A resolução visava reafirmar a autoridade do Congresso sobre intervenções militares, refletindo diferentes visões sobre o poder executivo na política externa.
Enfrentando reação bipartidária, o governo Trump reverteu sua decisão de cortar mais de US$ 2 bilhões em financiamento para programas de saúde mental e dependência, uma medida que inicialmente chocou os prestadores de serviços de saúde em todo o país. As subvenções restauradas garantirão o acesso contínuo a serviços vitais, evitando potenciais interrupções no atendimento de populações vulneráveis que lutam contra transtornos de saúde mental e uso de substâncias. Especialistas enfatizam que o financiamento consistente é crucial para manter sistemas eficazes de tratamento e apoio durante um período de crescente necessidade.
O FBI revistou a casa de um repórter do Washington Post como parte de uma investigação de vazamento envolvendo um contratante do Pentágono suspeito de manusear indevidamente informações confidenciais. Embora o repórter e o jornal não sejam considerados alvos, a ação do Departamento de Justiça está levantando preocupações sobre a liberdade de imprensa e a proteção de fontes, de acordo com o editor-executivo do Post. A busca é considerada uma escalada nos esforços do governo para controlar vazamentos.
Em Minneapolis, um agente do DHS/ICE baleou um venezuelano na perna durante uma tentativa de prisão, após o homem fugir de uma blitz de trânsito e supostamente agredir o agente. De acordo com o DHS, o agente também foi atacado por outros dois indivíduos com uma pá de neve e um cabo de vassoura, o que motivou o uso da força; o incidente ocorre após um tiroteio fatal anterior por um agente do ICE na mesma cidade, apenas uma semana antes. O homem ferido foi hospitalizado com ferimentos que não ameaçam a vida, levantando preocupações sobre as táticas do ICE e as relações com a comunidade.
Discussion
Join the conversation
Be the first to comment