ある消費者監視団体が、Googleが新たに発表した、AIを活用したショッピングエージェントを検索やGeminiなどのプラットフォームに統合することを目的としたUniversal Commerce Protocolについて懸念を表明しました。Groundwork Collaborativeのエグゼクティブディレクターであるリンジー・オーウェンズ氏は、Xで広く拡散された投稿で、このプロトコルがパーソナライズされたアップセルにつながり、チャットデータを分析することで消費者に過剰な請求をする可能性があると懸念を表明しました。

オーウェンズ氏の懸念は、アップセルをサポートし、より高価な商品をAIショッピングエージェントに宣伝することを可能にする機能を含む、Googleのプロトコルのロードマップに起因しています。彼女はまた、Googleが新会員割引やロイヤリティベースの価格設定などのプログラムの価格を調整する計画を強調しました。この機能は、CEOのサンダー・ピチャイ氏が全米小売業連盟の会議で発表したものです。

Googleは、オーウェンズ氏の主張に対し、Xでの公的な場とTechCrunchへの直接的な連絡の両方で反論しました。同社は、このプロトコルはショッピング体験を向上させ、消費者に更なる選択肢と情報を提供するために設計されたものであると主張し、これらの主張を否定しました。

Universal Commerce Protocolは、AIショッピングエージェントが小売業者とやり取りするための標準化されたシステムを構築し、オンラインショッピングプロセスを合理化することを目的としています。このプロトコルは、大規模言語モデル（LLM）の進歩を活用して、ユーザーの意図を理解し、パーソナライズされた推奨事項を提供します。しかし、ユーザーデータに基づいて価格を操作するなど、悪用の可能性は、消費者擁護団体の間で議論を呼んでいます。

「懸念されるのは、これらのAIエージェントは利便性を提供する一方で、より高価な商品に誘導したり、支払う意思があると見なされる価格よりも高い価格を請求したりすることで、消費者を搾取するために使用される可能性があるということです」と、Center for AI and Societyの技術倫理研究者であるマーク・ジョンソン氏は述べています。「これらのシステムが倫理的に使用されることを保証するためには、透明性と規制による監視が不可欠です。」

AIを活用したショッピングツールの開発は、消費者行動におけるAIの役割と、アルゴリズムバイアスの可能性について、より広範な問題を提起しています。AIシステムがより洗練されるにつれて、規制当局と消費者擁護団体は、不当または差別的な慣行を防ぐために、より厳格な監視を求めています。

連邦取引委員会（FTC）は最近、アルゴリズムバイアス、データプライバシー、欺瞞的なマーケティング慣行などの問題に焦点を当て、AI技術の監視を強化する意向を示しました。同庁は、これらの懸念に対処し、AIシステムが消費者の利益になるように使用されることを保証するために、潜在的な規則制定を検討しています。

Googleは、責任あるAI開発に取り組んでおり、消費者擁護団体から提起された懸念に対処するために取り組んでいると述べています。同社は、Universal Commerce Protocolはまだ初期段階にあり、公正かつ透明な方法で実装されるように、関係者との連携を継続すると強調しました。次のステップには、プロトコルのさらなるテストと改良が含まれており、年内にはより広範な展開が計画されています。