Microsoftは、Copilot AIアシスタントに存在する脆弱性に対処しました。この脆弱性を悪用すると、攻撃者は一見正当なURLを一度クリックさせるだけで、機密性の高いユーザーデータを抽出できる可能性がありました。Varonisのセキュリティ研究者はこの欠陥を発見し、ユーザーの名前、場所、Copilotのチャット履歴からの詳細などのデータを流出させる可能性のある多段階攻撃を実証しました。

攻撃は、ユーザーがリンクをクリックすることで開始されると、Copilotのチャットが閉じられた後も継続して実行され、それ以上の操作は必要ありません。Varonisのセキュリティ研究者であるDolev Taler氏によると、このエクスプロイトは、エンタープライズのエンドポイントセキュリティ制御と、エンドポイント保護アプリケーションによる検出を回避しました。「この悪意のあるプロンプトを含むリンクを配信すると、ユーザーはリンクをクリックするだけで、悪意のあるタスクがすぐに実行されます」とTaler氏はArs Technicaに語りました。「ユーザーがリンクをクリックしてすぐにCopilotチャットのタブを閉じても、エクスプロイトは機能します。」

このタイプの脆弱性は、AIを活用したツールとその日常業務への統合を取り巻くセキュリティ上の懸念の高まりを浮き彫りにしています。Copilotは、他の大規模言語モデル（LLM）と同様に、ユーザー入力を処理して応答することで動作し、多くの場合、パフォーマンスを向上させ、インタラクションをパーソナライズするためにユーザーデータにアクセスして保存します。このデータは、適切に保護されていない場合、悪意のある攻撃者の標的になる可能性があります。

Varonisの研究者は、ホワイトハットハッカーとして、巧妙に作成されたURLを使用して、悪意のあるプロンプトをユーザーのCopilotセッションに注入する方法を実証しました。これらのプロンプトを使用して、機密情報を抽出したり、ユーザーに代わって不正なアクションを実行したりできます。ユーザーがチャットウィンドウを閉じた後も攻撃が持続するという事実は、AI主導の環境における永続的な脅威の可能性を強調しています。

この脆弱性の影響は、個々のユーザーにとどまりません。エンタープライズ環境では、Copilotや同様のツールがドキュメントの要約、コード生成、データ分析などのタスクにますます使用されており、攻撃が成功すると、機密性の高いビジネス情報や知的財産が侵害される可能性があります。エンドポイントセキュリティ制御をバイパスできることは、従来型のセキュリティ対策ではこのような攻撃を検出して防止するのに十分ではない可能性があるため、リスクをさらに悪化させます。

Microsoftは、脆弱性に対処するためのパッチをリリースし、ソフトウェアを最新の状態に保つことの重要性を強調しています。ただし、このインシデントは、AI時代における堅牢なセキュリティ対策と継続的な監視の必要性を改めて認識させるものです。AIモデルがより洗練され、重要なシステムに統合されるにつれて、セキュリティ研究者と開発者は協力して、悪意のある攻撃者によって悪用される前に、潜在的な脆弱性を特定して軽減する必要があります。このインシデントはまた、AI開発者がユーザーデータのセキュリティとプライバシーを確保する責任、およびAIテクノロジーの開発と展開を管理する明確なガイドラインと規制の必要性についても疑問を投げかけています。