Der kalifornische Senator Steve Padilla, ein Demokrat, hat am Montag einen Gesetzentwurf eingebracht, der ein vierjähriges Verbot des Verkaufs und der Herstellung von Spielzeug mit integrierter KI-Chatbot-Technologie für Personen unter 18 Jahren vorsieht. Die vorgeschlagene Gesetzgebung mit der Bezeichnung SB 867 zielt darauf ab, den Aufsichtsbehörden ausreichend Zeit zu geben, Sicherheitsprotokolle zu entwickeln, um Kinder vor potenziell schädlichen Interaktionen mit künstlicher Intelligenz zu schützen.

Senator Padilla erklärte, dass KI-Chatbots und verwandte Tools zwar in Zukunft unerlässlich werden könnten, die gegenwärtigen Risiken jedoch entschlossenes Handeln zum Schutz von Kindern erfordern. Er betonte den noch jungen Stand der Sicherheitsbestimmungen für diese Technologie und wies darauf hin, dass diese sich im gleichen Tempo wie die rasanten Fortschritte der KI-Fähigkeiten entwickeln müssen. "Das Aussetzen des Verkaufs dieser Chatbot-integrierten Spielzeuge gibt uns Zeit, die entsprechenden Sicherheitsrichtlinien und Rahmenbedingungen für diese Spielzeuge zu entwickeln", sagte Padilla in einer Erklärung.

Der Gesetzentwurf kommt, nachdem Präsident Trump kürzlich eine Exekutivanordnung erlassen hat, die Bundesbehörden anweist, staatliche KI-Gesetze vor Gericht anzufechten. Die Anordnung enthält jedoch spezifische Ausnahmen für staatliche Gesetze zum Schutz von Kindern, wodurch SB 867 möglicherweise vor bundesstaatlichen Anfechtungen geschützt wird. Die Einbringung des Gesetzentwurfs folgt auch auf mehrere gemeldete Vorfälle, die Bedenken hinsichtlich der Interaktion zwischen KI-Chatbots und Kindern aufwerfen.

KI-Chatbots beziehen sich in diesem Zusammenhang auf Computerprogramme, die entwickelt wurden, um Gespräche mit menschlichen Nutzern zu simulieren, wobei häufig Algorithmen des maschinellen Lernens eingesetzt werden, um natürliche Sprache zu verstehen und darauf zu reagieren. In Spielzeugen könnten diese Chatbots potenziell persönliche Daten sammeln, unangemessene Antworten geben oder Kinder schädlichen Inhalten aussetzen. Die Technologie basiert typischerweise auf Natural Language Processing (NLP) und Modellen des maschinellen Lernens, die mit riesigen Datensätzen trainiert werden, um Konversationsfähigkeiten zu ermöglichen.

Das vorgeschlagene Verbot könnte die Spielzeugindustrie erheblich beeinträchtigen, insbesondere Unternehmen, die begonnen haben, KI-Chatbot-Funktionen in ihre Produkte zu integrieren. Die Industrie muss die Auswirkungen des Verbots auf die Produktentwicklung und die Vertriebsstrategien in Kalifornien, einem wichtigen Markt für Spielzeug, berücksichtigen.

Die Zukunft des Gesetzentwurfs hängt von seinem Durchgang durch den kalifornischen Senat und die kalifornische Versammlung ab, gefolgt von einer möglichen Genehmigung durch den Gouverneur. Der Gesetzgebungsprozess wird wahrscheinlich Debatten, Änderungen und Beiträge von verschiedenen Interessengruppen beinhalten, darunter Technologieunternehmen, Verfechter der Kindersicherheit und Rechtsexperten. Das Ergebnis von SB 867 könnte einen Präzedenzfall für andere Staaten schaffen, die ähnliche Vorschriften für KI-gestütztes Spielzeug und Technologien in Erwägung ziehen.