マイクロソフトは、Copilot AIアシスタントに存在する脆弱性に対処しました。この脆弱性を悪用すると、攻撃者は一見正当なURLをワンクリックさせるだけで、ユーザーの機密データを抽出できる可能性がありました。Varonisのセキュリティ研究者がこの欠陥を発見し、ユーザーの名前、場所、Copilotのチャット履歴の詳細を盗み出す可能性のある多段階攻撃を実証しました。

この攻撃は、ユーザーがCopilotのチャットウィンドウを閉じた後も持続し、メールに埋め込まれたリンクを最初にクリックする以外、それ以上の操作は必要ありませんでした。Varonisによると、このエクスプロイトは、通常エンドポイント保護アプリケーションで使用されるエンタープライズエンドポイントセキュリティ制御および検出メカニズムをバイパスしました。Varonisのセキュリティ研究者であるDolev Taler氏は、Ars Technicaへの声明で、「この悪意のあるプロンプトを含むリンクを配信すると、ユーザーはリンクをクリックするだけで、悪意のあるタスクがすぐに実行されます」と述べています。「ユーザーがリンクをクリックしてすぐにCopilotチャットのタブを閉じても、エクスプロイトは機能します。」

この脆弱性は、Copilotのような大規模言語モデル（LLM）に内在するリスクを浮き彫りにしています。LLMは、日々のワークフローへの統合が進んでいます。LLMは膨大なデータセットから学習し、人間のようなテキストを生成し、タスクを自動化することができます。しかし、その複雑さは悪用の機会も生み出します。このケースでは、攻撃は正当なCopilotリンクに埋め込まれた巧妙なプロンプトを利用して、データ流出につながる一連のアクションを開始しました。

このインシデントは、AI搭載ツールに対する堅牢なセキュリティ対策の重要性を強調しています。AIは生産性と自動化に大きなメリットをもたらしますが、従来のセキュリティシステムでは十分に対処できない新しい攻撃ベクトルも導入します。このエクスプロイトがエンドポイント保護アプリをバイパスできることは、高度なAI主導の攻撃に直面した場合の現在のセキュリティパラダイムの有効性について懸念を引き起こします。

この脆弱性の発見と、マイクロソフトによるその後のパッチ適用は、AIシステムを保護するための継続的な取り組みを表しています。AIの普及が進むにつれて、セキュリティ研究者とテクノロジープロバイダー間の協力は、潜在的なリスクを特定し、軽減するために不可欠です。このインシデントは、AIシステムとの一見無害なやり取りでさえ、意図しない結果を招く可能性があることを改めて認識させ、AIが生成したコンテンツとやり取りする際には、ユーザーの意識と注意が必要であることを強調しています。脆弱性の具体的な性質と、マイクロソフトが講じた対策に関する詳細については、今後数週間以内に公開される予定です。