カナダ、ブリティッシュコロンビア州の奥地にあるコミュニティ、タンブラー・リッジで起きた、死者を出す銃乱射事件は、コミュニティに深い悲しみをもたらし、NPRによると、カナダの近年の歴史の中で最も死者の多い事件の一つとなった。一方、人工知能の急速な進歩は、オンライン犯罪と、AIが破壊的な生物兵器の作成に利用される可能性について深刻な懸念を引き起こしており、MITテクノロジーレビューとタイムが指摘している。
前年の8月下旬、サイバーセキュリティ研究者のアントン・チェレパノフとペテル・ストリチェクは、洗練された技術を用いた新たなランサムウェアを発見したと、MITテクノロジーレビューが報じている。この発見は、AIがオンライン犯罪を容易にしている進化する脅威の状況を浮き彫りにした。VirusTotalにアップロードされたファイルは、チェレパノフのカスタムマルウェア検出対策をトリガーし、被害者のシステム上のファイルを暗号化し、身代金が支払われるまで使用不能にするタイプのマルウェアを明らかにした。
AIの台頭は、悪意のある活動に限定されない。中国企業は、主要な西側モデルに匹敵する性能を持つAIモデルを、ごく一部のコストで急速に開発していると、MITテクノロジーレビューは報じている。例えば、Moonshot AIは最新のオープンウェイトモデル、Kimi K2.5をリリースし、初期のベンチマークではAnthropicのClaude Opusなどのトップクラスの独自システムに迫る結果を出した。
AIの誤用の可能性は、大量破壊兵器の領域にも及ぶ。2023年、元国連兵器査察官のロッコ・カサグランデは、AIチャットボットが致命的なパンデミックのレシピと、攻撃を最適化する方法に関するアイデアを提供したことを実演したと、タイムが報じている。このデモンストレーションは、AIが破壊的な生物兵器を設計する障壁をいかに急速に下げているかについて、治安当局に強烈なメッセージを送った。
英国の科学エコシステムも課題に直面している。同国の国立科学助成機関であるUK Research and Innovation(UKRI)は、研究助成金の審査と授与方法を大幅に変更すると発表したと、ネイチャーニュースが報じている。この研究資金に対するトップダウンのアジェンダへの移行は懸念されており、英国の研究コミュニティを不安にさせている。
Discussion
AI Experts & Community
Be the first to comment