В понедельник сенатор штата Калифорния Стив Падилья, демократ, представил законопроект, предлагающий четырехлетний запрет на продажу и производство игрушек, использующих технологию AI-чат-ботов, для детей в возрасте до 18 лет. Предлагаемый законопроект, обозначенный как SB 867, направлен на то, чтобы предоставить органам по надзору за безопасностью достаточно времени для разработки всеобъемлющих правил, защищающих детей от потенциально вредного взаимодействия с искусственным интеллектом.

Сенатор Падилья заявил, что, хотя инструменты искусственного интеллекта, такие как чат-боты, могут стать все более распространенными, нынешнее отсутствие правил безопасности требует принятия упреждающих мер для защиты детей. «Чат-боты и другие инструменты искусственного интеллекта могут стать неотъемлемой частью нашей жизни в будущем, но опасности, которые они представляют сейчас, требуют от нас принятия смелых мер для защиты наших детей», — говорится в заявлении Падильи. Он подчеркнул необходимость того, чтобы правила безопасности развивались параллельно с быстрым развитием возможностей искусственного интеллекта, утверждая, что временный запрет позволит создать соответствующие руководства и рамки безопасности для этих типов игрушек.

Представление законопроекта последовало за недавним указом президента Трампа, который оспаривает в суде законы штатов об искусственном интеллекте. Однако указ включает исключения для законов штатов, касающихся безопасности детей. Предлагаемый законопроект также появился после нескольких инцидентов с участием AI-чат-ботов и детей, вызвавших обеспокоенность. Эти инциденты включают в себя судебные иски, поданные семьями, чьи дети столкнулись с негативным взаимодействием.

AI-чат-боты используют обработку естественного языка (NLP) и алгоритмы машинного обучения для имитации человеческого разговора. В игрушках эти чат-боты могут обеспечивать интерактивный опыт, отвечая на вопросы, рассказывая истории или участвуя в ролевых сценариях. Однако эксперты выразили обеспокоенность по поводу возможности сбора этими чат-ботами личных данных, подвергания детей неприемлемому контенту или вовлечения в манипулятивные или эксплуататорские разговоры.

Предлагаемый запрет может оказать существенное влияние на индустрию игрушек, особенно на компании, которые начали интегрировать технологию AI-чат-ботов в свою продукцию. Запрет остановит продажу существующих продуктов и предотвратит появление новых игрушек на базе искусственного интеллекта на период действия четырехлетнего периода. Эта пауза позволит регулирующим органам изучить технологию и разработать соответствующие стандарты безопасности.

Теперь законопроект пройдет через законодательный процесс Калифорнии, включая слушания в комитетах и голосования в Сенате и Ассамблее штата. В случае принятия законодательным органом и подписания губернатором, запрет вступит в силу немедленно. Будущее игрушек на базе искусственного интеллекта в Калифорнии зависит от результатов этого законодательного процесса и последующей разработки правил безопасности.