В понедельник сенатор штата Калифорния Стив Падилья, член Демократической партии, представил законопроект, предлагающий четырехлетний запрет на продажу и производство игрушек, использующих технологию AI-чат-ботов, для лиц младше 18 лет. Предлагаемый закон, обозначенный как SB 867, направлен на то, чтобы предоставить регулирующим органам достаточно времени для разработки протоколов безопасности, чтобы защитить детей от потенциально вредного взаимодействия с искусственным интеллектом.

Сенатор Падилья заявил, что, хотя AI-чат-боты и связанные с ними инструменты могут стать необходимыми в будущем, нынешние риски требуют решительных действий для защиты детей. Он подчеркнул начальную стадию разработки правил безопасности, касающихся этой технологии, отметив необходимость их развития в темпе, соизмеримом с быстрым развитием возможностей ИИ. «Приостановка продажи этих игрушек, интегрированных с чат-ботами, дает нам время для разработки соответствующих руководств по безопасности и рамок, которым должны следовать эти игрушки», — говорится в заявлении Падильи.

Законопроект появился после недавнего указа президента Трампа, который предписывает федеральным агентствам оспаривать в суде законы штатов об ИИ. Однако указ включает в себя конкретные исключения для законов штатов, касающихся безопасности детей, что потенциально защищает SB 867 от федеральных претензий. Представление законопроекта также последовало за несколькими сообщениями об инцидентах, вызывающих обеспокоенность по поводу взаимодействия между AI-чат-ботами и детьми.

AI-чат-боты в данном контексте относятся к компьютерным программам, предназначенным для имитации разговора с пользователями-людьми, часто с использованием алгоритмов машинного обучения для понимания и реагирования на естественный язык. В игрушках эти чат-боты потенциально могут собирать личные данные, предоставлять ненадлежащие ответы или подвергать детей вредоносному контенту. Технология обычно основана на обработке естественного языка (NLP) и моделях машинного обучения, которые обучаются на огромных наборах данных, чтобы обеспечить возможности ведения беседы.

Предлагаемый запрет может существенно повлиять на индустрию игрушек, особенно на компании, которые начали интегрировать функции AI-чат-ботов в свои продукты. Отрасли необходимо будет учитывать последствия запрета для разработки продуктов и стратегий продаж в Калифорнии, крупном рынке игрушек.

Будущее законопроекта зависит от его продвижения через Сенат и Ассамблею штата Калифорния с последующим возможным утверждением губернатором. Законодательный процесс, вероятно, будет включать дебаты, поправки и вклад различных заинтересованных сторон, включая технологические компании, защитников безопасности детей и юристов. Результат SB 867 может создать прецедент для других штатов, рассматривающих аналогичные правила в отношении игрушек и технологий на базе ИИ.