AIを活用したサイバー犯罪が急増：あなたのデータは安全？

AIエージェントと、サイバーセキュリティとウェブブラウジングへの影響が話題を呼んでいます。Googleの新しいAuto Browseエージェントは、Chromeの一部として、AI ProおよびAI Ultraの加入者向けに展開されており、一方、AIアシスタントを取り巻くセキュリティ上の懸念が専門家によって強調されています。同時に、z.aiのGLM-5のようなAIモデルの進歩も現れており、これは記録的な低水準のハルシネーション率を誇っています。これと並行して、NanoClawのような、より安全なバージョンのオープンソースAIアシスタントの開発も進んでいます。

GoogleのAuto Browseエージェントは、ユーザーに代わってAIがウェブを閲覧することを可能にし、Ars Technicaによると、現在AI ProおよびAI Ultraの加入者向けにプレビュー中です。この開発は、AIの状況がチャットボットの優位性からAIエージェントの能力へと移行する中で起こっています。しかし、この記事では、AIエージェントはまだ「粗削り」であり、重要なタスクを任せるのは時期尚早であると示唆しています。

一方、オープンソースAIアシスタントOpenClawの急速な普及は、セキュリティ上の懸念を引き起こしています。Peter Steinbergerによって開発されたOpenClawは、ユーザーが自然言語プロンプトを使用して、デバイス全体でタスクを自律的に完了することを可能にします。しかし、その「許可不要」のアーキテクチャは、より安全なバージョンであるNanoClawの作成を促しました。VentureBeatによると、オープンソースのMITライセンスの下でデビューしたNanoClawは、これらのセキュリティ脆弱性に対処しています。

AIモデルの分野では、z.aiのGLM-5が記録的な低水準のハルシネーション率を達成しました、とVentureBeatは報じています。オープンソースのMITライセンスを保持するこのモデルは、AA-Omniscience Indexで-1を記録し、前モデルから35ポイント改善しました。この成果により、GLM-5は、知識の信頼性において、Google、OpenAI、Anthropicなどの競合他社をリードしています。

AIの進歩は、サイバーセキュリティとも交差しています。MIT Technology Reviewによると、AIはすでにオンライン犯罪を容易にしています。ハッカーはAIを使用して、攻撃を組織するために必要な時間と労力を削減し、経験の浅い攻撃者の障壁を下げています。一部の専門家は、完全に自動化された攻撃の可能性を警告し、他の専門家は、AIによって強化された詐欺の差し迫ったリスクを強調しています。「犯罪者はますます」とMIT Technology Reviewは指摘しています。