Группа защиты прав потребителей выразила обеспокоенность по поводу недавно анонсированного Google протокола Universal Commerce Protocol, предназначенного для интеграции торговых агентов на базе ИИ в такие платформы, как Search и Gemini. Линдси Оуэнс, исполнительный директор Groundwork Collaborative, выразила свои опасения в широко распространенном посте в X, заявив, что протокол может привести к персонализированным дополнительным продажам и потенциально завышать цены для потребителей, анализируя данные их чатов.
Опасения Оуэнс связаны с дорожной картой Google для протокола, которая включает функции, поддерживающие дополнительные продажи, позволяя продавцам продвигать более дорогие товары торговым агентам на базе ИИ. Она также подчеркнула планы Google по корректировке цен для таких программ, как скидки для новых участников или ценообразование на основе лояльности, функцию, которую генеральный директор Сундар Пичаи представил на конференции Национальной федерации розничной торговли.
Google ответил на обвинения Оуэнс как публично в X, так и непосредственно TechCrunch. Компания опровергла эти утверждения, утверждая, что протокол разработан для улучшения покупательского опыта и предоставления потребителям большего выбора и информации.
Universal Commerce Protocol направлен на создание стандартизированной системы для взаимодействия торговых агентов на базе ИИ с розничными продавцами, оптимизируя процесс онлайн-покупок. Протокол использует достижения в области больших языковых моделей (LLM) для понимания намерений пользователя и предоставления персонализированных рекомендаций. Однако возможность злоупотреблений, таких как манипулирование ценами на основе данных пользователей, вызвала дебаты среди защитников прав потребителей.
"Беспокойство вызывает то, что эти ИИ-агенты, хотя и обещают удобство, могут быть использованы для эксплуатации потребителей, подталкивая их к более дорогим продуктам или взимая с них более высокие цены, основываясь на их предполагаемой готовности платить", - сказал Марк Джонсон, исследователь этики технологий в Центре ИИ и общества. "Прозрачность и нормативный надзор имеют решающее значение для обеспечения этичного использования этих систем".
Разработка инструментов для покупок на базе ИИ поднимает более широкие вопросы о роли ИИ в потребительском поведении и о потенциале алгоритмической предвзятости. По мере того как системы ИИ становятся все более сложными, регулирующие органы и защитники прав потребителей призывают к усилению контроля для предотвращения несправедливой или дискриминационной практики.
Федеральная торговая комиссия (FTC) недавно сигнализировала о своем намерении усилить контроль над технологиями ИИ, сосредоточив внимание на таких вопросах, как алгоритмическая предвзятость, конфиденциальность данных и вводящая в заблуждение маркетинговая практика. Агентство изучает потенциальные правила для решения этих проблем и обеспечения того, чтобы системы ИИ использовались таким образом, чтобы приносить пользу потребителям.
Google заявил, что привержен принципам ответственной разработки ИИ и работает над решением проблем, поднятых защитниками прав потребителей. Компания подчеркнула, что Universal Commerce Protocol все еще находится на ранних стадиях разработки и что она продолжит взаимодействовать с заинтересованными сторонами, чтобы обеспечить его внедрение справедливым и прозрачным образом. Следующие шаги включают дальнейшее тестирование и доработку протокола, а более широкое развертывание запланировано на конец этого года.
Discussion
Join the conversation
Be the first to comment