AIエージェントが企業運営を革新する一方、ガバナンスへの懸念が浮上
企業は複雑なタスクを自動化するためにAIエージェントの導入を拡大していますが、最近の報告によると、潜在的なリスクと強固なガバナンスの必要性に対する懸念が高まっています。この変化は、企業が圧倒的な数のセキュリティアラートに対処し、技術的に要求の厳しい分野での業務効率化を模索する中で起きています。
AIエージェントの台頭は、増え続けるセキュリティアラートの管理ニーズに起因しています。VentureBeatによると、平均的な企業のセキュリティオペレーションセンター(SOC)は1日に10,000件のアラートを受け取り、それぞれ調査に20〜40分を要します。しかし、人員が十分に配置されたチームでも、これらのアラートのうち22件しか処理できません。これにより、セキュリティチームの60%以上が、後に重大であることが判明したアラートを無視していたと認める状況が生じています。
この課題に対処するため、SOCチームはトリアージ、エンリッチメント、エスカレーションなどのタスクを自動化しており、人間のアナリストは調査、レビュー、エッジケースの判断に重点を移しています。VentureBeatが報じたように、Bezos ExpeditionsとBain Capital Venturesが出資するスタートアップ企業であるContextual AIは最近、航空宇宙や半導体製造などの業界における知識集約型業務向けにAIエージェントを構築するためのプラットフォームであるAgent Composerを発表しました。
中国企業のMoonshot AIは、オープンソースのKimi K2モデルをKimi K2.5にアップグレードし、エージェントスワームオーケストレーションをサポートするコーディングおよびビジョンモデルに変貌させました。VentureBeatが報じたように、これにより企業は、中央の意思決定者に依存するのではなく、アクションを自動的に引き継ぐことができるエージェントを作成できます。Kimi K2.5のベースとなっているKimi K2モデルは、合計1兆のパラメータと320億のアクティブ化されたパラメータを持っていました。
しかし、AIエージェントへの依存度が高まるにつれて、新たなセキュリティリスクも生じています。MIT Technology Reviewは、ヒューマンインザループのエージェントアクションと完全に自律的なエージェントワークフローの強要が、ハッカーにとって新たな攻撃ベクトルになりつつあると報じました。2026年のGemini Calendarのプロンプトインジェクション攻撃や、AnthropicのClaudeコードを自動侵入エンジンとして使用した2025年9月の国家が関与したハッキングは、そのような攻撃の例です。
Anthropicの事例では、攻撃者は偵察、エクスプロイト開発、認証情報の収集、ラテラルムーブメント、データ窃取など、オペレーションの80〜90%をAIを使用して実行し、人間はごくわずかな重要な意思決定ポイントでのみ介入しました。MIT Technology Reviewによると、この攻撃は、テクノロジー、金融、製造、政府など、約30の組織に影響を与えました。
Gartnerは、エージェントAIイニシアチブの40%以上が、人間の洞察力と直感の統合の欠如により失敗すると予測しています。VentureBeatによると、これは、AIエージェントが効果的かつ倫理的に使用されるように、ガバナンスの境界線を確立することの重要性を強調しています。
Discussion
Join the conversation
Be the first to comment