캘리포니아 주 상원 의원인 민주당 소속 스티브 파딜라 의원은 월요일, 18세 미만 어린이를 대상으로 AI 챗봇 기술을 통합한 장난감의 판매 및 제조를 4년간 금지하는 법안을 발의했습니다. SB 867로 지정된 이 법안은 안전 규제 당국이 인공지능과의 잠재적으로 유해한 상호 작용으로부터 어린이를 보호하기 위한 포괄적인 규정을 개발할 충분한 시간을 제공하는 것을 목표로 합니다.

파딜라 의원은 챗봇과 같은 AI 도구가 점점 더 보편화될 수 있지만, 현재 안전 규정의 부족으로 인해 어린이를 보호하기 위한 사전 조치가 필요하다고 밝혔습니다. 파딜라 의원은 성명에서 "챗봇 및 기타 AI 도구는 미래에 우리 삶의 필수적인 부분이 될 수 있지만, 현재 그들이 제기하는 위험은 우리 아이들을 보호하기 위한 과감한 조치를 취하도록 요구합니다."라고 말했습니다. 그는 AI 기능의 빠른 발전과 함께 안전 규정이 발전해야 할 필요성을 강조하며, 일시적인 금지 조치가 이러한 유형의 장난감에 대한 적절한 안전 지침 및 프레임워크를 만들 수 있도록 할 것이라고 주장했습니다.

이 법안의 발의는 트럼프 대통령이 최근 법원에서 주 AI 법에 이의를 제기하는 행정 명령을 내린 데 따른 것입니다. 그러나 이 명령에는 아동 안전과 관련된 주 법률에 대한 예외가 포함되어 있습니다. 또한 이 법안은 AI 챗봇과 관련된 여러 사건으로 인해 우려가 제기된 후에 나왔습니다. 이러한 사건에는 자녀가 부정적인 상호 작용을 경험한 가족이 제기한 소송이 포함됩니다.

AI 챗봇은 자연어 처리(NLP) 및 머신 러닝 알고리즘을 사용하여 인간의 대화를 시뮬레이션합니다. 장난감에서 이러한 챗봇은 질문에 답하거나, 이야기를 하거나, 역할극 시나리오에 참여하는 등 대화형 경험을 제공할 수 있습니다. 그러나 전문가들은 이러한 챗봇이 개인 데이터를 수집하고, 어린이를 부적절한 콘텐츠에 노출시키거나, 조작적이거나 착취적인 대화에 참여할 가능성에 대해 우려를 제기했습니다.

제안된 금지 조치는 특히 AI 챗봇 기술을 제품에 통합하기 시작한 장난감 산업에 큰 영향을 미칠 수 있습니다. 이 금지 조치는 기존 제품의 판매를 중단하고 4년 동안 새로운 AI 기반 장난감의 도입을 막을 것입니다. 이 중단 기간 동안 규제 당국은 기술을 연구하고 적절한 안전 기준을 개발할 수 있습니다.

이 법안은 이제 캘리포니아 주 상원과 하원에서 위원회 청문회와 투표를 포함한 캘리포니아 입법 과정을 거치게 됩니다. 법안이 의회를 통과하고 주지사가 서명하면 즉시 효력이 발생합니다. 캘리포니아에서 AI 기반 장난감의 미래는 이 입법 과정의 결과와 그에 따른 안전 규정 개발에 달려 있습니다.