AI開発は信頼のギャップに直面、応用範囲はポルノからコード生成まで

人工知能（AI）の開発は、多くの組織が初期のパイロットプログラムからAIをスケールさせるのに苦労しているため、最近の調査によると「信頼のパラドックス」に直面しています。一方、AIの応用は急速に多様化しており、一部のモデルはポルノを生成し、他のモデルは高度なコーディング能力を発揮しており、雇用の喪失や倫理的な考慮事項に関する懸念が高まっています。

Informaticaが最高データ責任者（CDO）を対象に世界中の600人の幹部を対象に実施した3回目の年次調査では、企業の69％が生成AIを導入し、47％が実験している一方で、重大なガバナンスのギャップが存在することが明らかになりました。調査によると、データリーダーの76％は、従業員がすでに使用しているものを管理できていません。VentureBeatによると、この乖離が、多くの組織がAIの実験から本番規模への移行に苦労している理由を説明しています。

さらに複雑さを増しているのは、Googleによる新しい研究で、高度な推論モデルは、多様な視点を含むマルチエージェントのような議論をシミュレートすることで、高いパフォーマンスを達成することが示唆されています。研究者らが「思考の社会」と呼ぶこれらの会話は、複雑な推論および計画タスクにおけるモデルのパフォーマンスを大幅に向上させます。研究者らは、DeepSeek-R1やQwQ-32Bなどの主要な推論モデルは、明示的な指示なしにこの能力を本質的に開発しており、開発者がより堅牢なLLMアプリケーションを構築し、企業が独自の内部データを使用して優れたモデルをトレーニングするためのロードマップを提供していることを発見しました、とVentureBeatは報告しています。

しかし、AIの急速な進歩は倫理的な懸念も引き起こしています。スタンフォード大学とインディアナ大学の研究者による分析では、Andreessen Horowitzが支援するAI生成コンテンツの民間オンラインマーケットプレイスで、ユーザーが有名人のディープフェイクを生成するためのカスタム命令ファイルを購入できることが判明しました。MIT Technology Reviewによると、これらのファイルの一部は、サイトで禁止されているポルノ画像を生成するように特別に設計されていました。調査によると、2023年中頃から2024年末までの間に、サイト上のリクエストのかなりの部分が実在の人物のディープフェイクに関するものであり、これらのディープフェイクリクエストの90％が女性を対象としていました。

AIモデルの多様な能力は、興奮と不安の両方を生み出しています。MIT Technology Reviewは、Grokのような一部のモデルがポルノを生成するために使用されている一方で、Claude Codeのような他のモデルは、ウェブサイトの構築やMRIの読解などの複雑なタスクを実行できると指摘しました。これにより、特にZ世代の間で、AIが労働市場に与える潜在的な影響について懸念が高まっています。不安を煽る新しい調査では、AIが今年、労働市場に大きな影響を与えることが示唆されています。

AI業界自体が内部の緊張に直面しています。Metaの元チーフAI科学者であるYann LeCunが公に意見を共有しており、Elon MuskとOpenAIが裁判に向かっているため、この分野でさらなる不確実性が生じています、とMIT Technology Reviewは述べています。