AIへの監視の目:HHSがDEIスクリーニングにパランティアを利用、エプスタイン関連ファイル公開、AIの真実性への懸念が高まる
保健福祉省(HHS)は、パランティアの人工知能ツールを使用して、多様性、公平性、包括性(DEI)イニシアチブとジェンダーイデオロギーを標的としたドナルド・トランプ前大統領の大統領令への準拠状況を、助成金と職務記述書についてスクリーニングしていた。これは、最近発表されたHHSの2025年におけるAI利用状況の目録で明らかになった。この事実は、司法省が有罪判決を受けた性犯罪者ジェフリー・エプスタインに関連する約350万ページのファイルを公開し、テクノロジー業界の著名人とのつながりが明らかになったこと、そしてAIが社会の信頼を損なう可能性への懸念が高まっている中で明らかになった。
Wiredによると、HHSは2025年3月からパランティアのAIツールを使用して、助成金、助成金申請、および職務記述書を監査していた。パランティアもHHSも、このソフトウェアの使用を公に発表していなかった。トランプ政権の2期目には、パランティアはHHSから3500万ドル以上の支払いと債務を受け取ったが、これらの取引の説明には、DEIやジェンダーイデオロギーの標的化については言及されていなかった。
2025年11月19日のエプスタイン・ファイル透明化法によって義務付けられたエプスタイン・ファイルの公開により、エプスタインとテクノロジー業界の個人との関係に改めて注目が集まっている。マイクロソフトの共同創業者であるビル・ゲイツのように、以前からエプスタインとの関係が知られていた人物もいるが、イーロン・マスクのように、公開前に確立されたつながりが少なかった人物もいるとWiredは報じている。エプスタイン・ファイルに名前があるからといって、必ずしも不正行為を意味するわけではないことに注意することが重要である。
一方、AIが「真実の危機」に拍車をかける可能性への懸念が高まっている。MIT Technology Reviewは、米国国土安全保障省が、グーグルとアドビのAIビデオジェネレーターを使用して、一般消費向けのコンテンツを作成していると報じた。このニュースは、AIが生成したコンテンツが国民を欺き、信念を形成し、社会の信頼を損なう可能性について懸念を引き起こしている。この記事では、当初この危機に対処するために意図されたツールが不十分であることが判明しているとも指摘している。
エンタープライズAIの分野では、VentureBeatが、企業が大規模言語モデル(LLM)を独自のデータに根ざさせるために、検索拡張生成(RAG)の採用をますます進めていると報じている。しかし、多くの組織は、検索がモデル推論に組み込まれた機能ではなく、基盤となるシステム依存になっていることに気づいている。検索の失敗は、信頼、コンプライアンス、および運用上の信頼性を損なう可能性がある。「古いコンテキスト、管理されていないアクセスパス、および適切に評価されていない検索パイプラインは、単に回答の質を低下させるだけでなく、信頼、コンプライアンス、および運用上の信頼性を損なう」とVentureBeatは指摘している。
AsanaのCPOであるアーナブ・ボーズは、企業内でのAIエージェントの成功には、共有メモリとコンテキストが重要であることを強調した。彼はサンフランシスコで開催された最近のVBイベントで、AIエージェントに詳細な履歴と直接アクセスを提供し、ガードレールチェックポイントと人間の監督を組み合わせることで、AIエージェントがアクティブなチームメイトとして機能できるようになると述べた。「このようにすることで、タスクを割り当てるときに、ビジネスの仕組みに関するすべてのコンテキストを改めて提供する必要がなくなる」とボーズは語った。Asanaは昨年、AIエージェントがチームやプロジェクトに直接統合されるコラボレーションシステムを作成することを目指して、Asana AI Teammatesを立ち上げた。
Discussion
AI Experts & Community
Be the first to comment