Der kalifornische Senator Steve Padilla, ein Demokrat, hat am Montag einen Gesetzentwurf eingebracht, der ein vierjähriges Verbot des Verkaufs und der Herstellung von Spielzeug vorsieht, das KI-Chatbot-Technologie für Kinder unter 18 Jahren beinhaltet. Die vorgeschlagene Gesetzgebung mit der Bezeichnung SB 867 zielt darauf ab, den Sicherheitsbehörden ausreichend Zeit zu geben, um umfassende Vorschriften zum Schutz von Kindern vor potenziell schädlichen Interaktionen mit künstlicher Intelligenz zu entwickeln.

Senator Padilla erklärte, dass KI-Tools wie Chatbots zwar immer weiter verbreitet sein könnten, der derzeitige Mangel an Sicherheitsvorschriften jedoch proaktive Maßnahmen zum Schutz von Kindern erforderlich mache. "Chatbots und andere KI-Tools könnten in Zukunft ein integraler Bestandteil unseres Lebens werden, aber die Gefahren, die sie jetzt darstellen, erfordern, dass wir mutige Maßnahmen ergreifen, um unsere Kinder zu schützen", sagte Padilla in einer Erklärung. Er betonte, dass sich die Sicherheitsvorschriften parallel zu den rasanten Fortschritten der KI-Fähigkeiten entwickeln müssen, und betonte, dass das vorübergehende Verbot die Schaffung geeigneter Sicherheitsrichtlinien und -rahmen für diese Art von Spielzeug ermöglichen würde.

Die Einbringung des Gesetzentwurfs folgt auf die jüngste Durchführungsverordnung von Präsident Trump, die staatliche KI-Gesetze vor Gericht anfechtet. Die Verordnung enthält jedoch Ausnahmen für staatliche Gesetze zum Schutz von Kindern. Die vorgeschlagene Gesetzgebung kommt auch, nachdem mehrere Vorfälle mit KI-Chatbots und Kindern Bedenken aufgeworfen haben. Zu diesen Vorfällen gehören Klagen von Familien, deren Kinder negative Interaktionen erlebt haben.

KI-Chatbots nutzen Natural Language Processing (NLP) und Algorithmen für maschinelles Lernen, um menschliche Gespräche zu simulieren. In Spielzeugen können diese Chatbots interaktive Erlebnisse bieten, Fragen beantworten, Geschichten erzählen oder an Rollenspielen teilnehmen. Experten haben jedoch Bedenken hinsichtlich des Potenzials dieser Chatbots geäußert, persönliche Daten zu sammeln, Kinder unangemessenen Inhalten auszusetzen oder manipulative oder ausbeuterische Gespräche zu führen.

Das vorgeschlagene Verbot könnte die Spielzeugindustrie erheblich beeinträchtigen, insbesondere Unternehmen, die begonnen haben, KI-Chatbot-Technologie in ihre Produkte zu integrieren. Das Verbot würde den Verkauf bestehender Produkte stoppen und die Einführung neuer KI-gestützter Spielzeuge für die Dauer des vierjährigen Zeitraums verhindern. Diese Pause würde es den Aufsichtsbehörden ermöglichen, die Technologie zu untersuchen und geeignete Sicherheitsstandards zu entwickeln.

Der Gesetzentwurf wird nun das kalifornische Gesetzgebungsverfahren durchlaufen, einschließlich Anhörungen in Ausschüssen und Abstimmungen im Senat und in der Abgeordnetenkammer des Bundesstaates. Wenn er vom Parlament verabschiedet und vom Gouverneur unterzeichnet wird, tritt das Verbot sofort in Kraft. Die Zukunft von KI-gestütztem Spielzeug in Kalifornien hängt vom Ausgang dieses Gesetzgebungsverfahrens und der anschließenden Entwicklung von Sicherheitsvorschriften ab.