テック大手によるAIの失策：ボットの封鎖からセキュリティの失態まで

テクノロジー大手、AI、セキュリティ、倫理的懸念に苦慮

テクノロジー業界は、AI管理、セキュリティの脆弱性から、データ利用や本人確認を取り巻く倫理的考察まで、さまざまな課題に直面し、反省を迫られる1週間となった。AIエージェント管理、ウェブサイトの検閲、顔認識技術、ソーシャルメディアの調査慣行において、新たな展開が見られた。

AnthropicやOpenAIのようなAI企業は、AIを会話の相手としてではなく、委任された労働力として捉える方向に転換している。Ars Technicaによると、両社は木曜日に、仕事を分担し並行して実行するAIエージェントのチームを管理することに焦点を当てた製品を発表した。この変化は、監督モデルの有効性や、エラーを修正するために必要な人的介入のレベルについて疑問を投げかけている。AIを労働力として捉えるという概念は、今週のソフトウェア株の2850億ドルの下落にも寄与したと報じられている、とArs Technicaは報じた。

一方、LinkedInでは、リクルーターのメッセージを通じてインストールされた悪意のあるパッケージがクラウド認証情報を流出させ、攻撃者に数分以内にAWSの管理者権限を与える可能性があるというセキュリティの脆弱性が露呈した、とVentureBeatは報じた。この攻撃連鎖は、アイデンティティとアクセス管理（IAM）ピボットとして知られており、企業がアイデンティティベースの攻撃をどのように監視しているかのギャップを浮き彫りにしている、と1月29日に発表されたCrowdStrike Intelligenceの調査は述べている。

その他のニュースとしては、Neocitiesの創設者であるKyle Drake氏が、BingがNeocitiesでホストされている約150万の独立系ウェブサイトを不可解にもブロックしたと報告した、とArs Technicaは報じた。2013年に設立されたNeocitiesは、ユーザーが標準化されたテンプレートなしで無料のウェブサイトをデザインできるようにしている。

移民当局による顔認識技術の使用についても懸念が生じている。WIREDが確認した記録によると、国土安全保障省は、連邦政府の作戦中にDHS職員によって停止または拘留された個人の身元を特定または確認するために、2025年春にMobile Fortifyを開始した。しかし、このアプリは路上で人々を確実に識別するように設計されておらず、適切な精査なしに展開された、とWIREDは報じた。DHSは、この展開をドナルド・トランプ大統領が署名した、不法移民の取り締まりを求める大統領令に明確に関連付けた。

MetaのCEOであるMark Zuckerberg氏は、ウォール・ストリート・ジャーナルの記事が、Instagramにおける10代の少女のメンタルヘルスに関する同社の調査結果を強調した後、Metaが社会問題を調査する方法を変更することを検討した、とThe Vergeは報じた。Zuckerberg氏は、Appleが目立たないようにすることで批判を避けているようだと指摘した、とThe Vergeは報じた。