AI開発の動向：安全性への懸念、資金調達、そしてユーザーエクスペリエンス

人工知能分野における最近の動向は、xAIのGrokチャットボットをめぐる児童の安全性への懸念から、AIチップスタートアップへの巨額の資金調達、そしてユーザープライバシーに関する和解まで、幅広い問題点を浮き彫りにしています。

新たなリスク評価により、xAIのGrokチャットボットは18歳未満のユーザーに対する安全対策が不十分であることが判明しました。メディアとテクノロジーに関する年齢に基づいた評価とレビューを提供する非営利団体であるCommon Sense Mediaが実施したこの報告書は、Grokが性的、暴力的、不適切なコンテンツを頻繁に生成することを示しています。「Common Sense Mediaでは多くのAIチャットボットを評価していますが、すべてにリスクがあるものの、Grokはその中でも最悪の部類に入ります」と、同非営利団体のAIおよびデジタル評価責任者であるRobbie Torney氏は述べています。この評価は、Grokを使用してXプラットフォーム上で女性や子供の同意なしに生成された露骨なAI画像を制作・拡散した件について、xAIが批判と調査に直面している中で発表されました。

他のAI関連ニュースとしては、AIチップの設計と改良を行うAIシステムの構築に注力するスタートアップ、Ricursive IntelligenceがLightspeed主導のシリーズA資金調達ラウンドで3億ドルを調達し、企業価値を40億ドルと評価されました。同社は、Sequoiaが主導するシード投資により、わずか2か月前に正式に設立され、ニューヨーク・タイムズによると、総資金調達額は3億3500万ドルに達しています。Googleの元研究者であるAnna Goldie氏とAzalia Mirhoseini氏によって設立されたRicursiveは、独自のシリコン基板層を設計し、AIチップの改良を加速できるシステムの構築を目指しています。彼らが以前に行ったチップレイアウトの強化学習手法であるAlphaChipは、GoogleのTPUチップの4世代で使用されました。

一方、Googleは、音声アシスタントがユーザーを違法にスパイしたという訴えを解決するために、6800万ドルを支払うことに合意しました。ロイターによると、集団訴訟は、Googleが個人の機密通信を同意なしに違法かつ意図的に傍受および記録し、その後、それらの通信を第三者に不正に開示したとしてGoogleを訴えています。訴訟はさらに、これらの録音から得られた情報が、ターゲティング広告などの目的で第三者に誤って送信されたと主張しています。この訴訟は、Googleアシスタントが意図的なプロンプトなしにユーザーの通信をアクティブ化して記録したとされる「誤認識」を中心に展開されました。Googleは和解において不正行為を認めていません。

オンデバイス契約AIに注力するスタートアップであるSpotDraftは、Qualcomm Venturesから戦略的なシリーズBエクステンションで800万ドルを調達しました。このエクステンションにより、SpotDraftの評価額は約3億8000万ドルとなり、昨年2月の5600万ドルのシリーズB後の1億9000万ドルのポストマネー評価額からほぼ倍増しました。同社は、規制された法務ワークフロー向けのオンデバイス契約レビュー技術を拡大し、法務などの機密分野における生成AIの導入を遅らせることが多いプライバシー、セキュリティ、データガバナンスの懸念に対処することを目指しています。

最後に、Microsoftは、よりコンソールのようなユーザーインターフェイスを提供する、Xbox Cloud Gamingの刷新されたWebエクスペリエンスのテストを開始しました。The VergeのTom Warren氏によると、新しいUIには、更新されたナビゲーション機能、新しいアニメーション、および刷新されたデザインが含まれています。Microsoftは、新しいXbox Cloud UIが新しいXboxエクスペリエンスの基盤であると述べており、将来のXboxコンソールUIデザインのプレビューを示唆しています。Xbox Insidersは、プレビューUIを試すことができます。