Un groupe de défense des consommateurs a exprimé des inquiétudes concernant le nouveau protocole de commerce universel de Google, conçu pour intégrer des agents d'achat basés sur l'IA dans des plateformes telles que Search et Gemini. Lindsay Owens, directrice exécutive de Groundwork Collaborative, a exprimé son appréhension dans une publication largement diffusée sur X, affirmant que le protocole pourrait conduire à des ventes incitatives personnalisées et potentiellement à une surfacturation des consommateurs en analysant leurs données de chat.

Les préoccupations d'Owens découlent de la feuille de route de Google pour le protocole, qui comprend des fonctionnalités prenant en charge les ventes incitatives, permettant aux marchands de promouvoir des articles plus chers auprès des agents d'achat IA. Elle a également souligné les projets de Google visant à ajuster les prix pour des programmes tels que les remises pour les nouveaux membres ou la tarification basée sur la fidélité, une fonctionnalité que le PDG Sundar Pichai a présentée lors de la conférence de la National Retail Federation.

Google a répondu aux allégations d'Owens à la fois publiquement sur X et directement à TechCrunch. L'entreprise a réfuté ces affirmations, arguant que le protocole est conçu pour améliorer l'expérience d'achat et offrir aux consommateurs plus de choix et d'informations.

Le protocole de commerce universel vise à créer un système standardisé permettant aux agents d'achat IA d'interagir avec les détaillants, rationalisant ainsi le processus d'achat en ligne. Le protocole exploite les avancées des grands modèles linguistiques (LLM) pour comprendre l'intention de l'utilisateur et fournir des recommandations personnalisées. Cependant, le potentiel d'utilisation abusive, comme la manipulation des prix en fonction des données de l'utilisateur, a suscité un débat parmi les défenseurs des consommateurs.

« La crainte est que ces agents d'IA, bien que prometteurs en termes de commodité, puissent être utilisés pour exploiter les consommateurs en les poussant vers des produits plus chers ou en leur facturant des prix plus élevés en fonction de leur volonté perçue de payer », a déclaré Mark Johnson, chercheur en éthique technologique au Center for AI and Society. « La transparence et la surveillance réglementaire sont essentielles pour garantir que ces systèmes sont utilisés de manière éthique. »

Le développement d'outils d'achat basés sur l'IA soulève des questions plus larges sur le rôle de l'IA dans le comportement des consommateurs et le potentiel de biais algorithmiques. À mesure que les systèmes d'IA deviennent plus sophistiqués, les régulateurs et les défenseurs des consommateurs réclament une surveillance accrue pour prévenir les pratiques déloyales ou discriminatoires.

La Federal Trade Commission (FTC) a récemment signalé son intention d'accroître sa surveillance des technologies d'IA, en se concentrant sur des questions telles que les biais algorithmiques, la confidentialité des données et les pratiques de marketing trompeuses. L'agence étudie la possibilité d'élaborer des règles pour répondre à ces préoccupations et garantir que les systèmes d'IA sont utilisés d'une manière qui profite aux consommateurs.

Google a déclaré qu'il s'engageait en faveur d'un développement responsable de l'IA et qu'il s'efforçait de répondre aux préoccupations soulevées par les défenseurs des consommateurs. L'entreprise a souligné que le protocole de commerce universel n'en est qu'à ses débuts et qu'elle continuera de collaborer avec les parties prenantes pour s'assurer qu'il est mis en œuvre de manière équitable et transparente. Les prochaines étapes consistent à tester et à affiner davantage le protocole, avec un déploiement plus large prévu plus tard cette année.