قامت Google و Character.AI بتسوية دعوى قضائية تزعم أن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي التابعة لهما ساهمت في انتحار مراهق. الاتفاقية، التي تم الكشف عنها في ملف قانوني يوم الأربعاء، تحل قضية رفعتها ميغان إل. غارسيا في محكمة مقاطعة الولايات المتحدة في فلوريدا. توفي ابنها، سيول سيتزر الثالث البالغ من العمر 14 عامًا، منتحرًا في فبراير 2024 بعد تفاعله مع روبوت دردشة Character.AI.

ركزت الدعوى القضائية، التي تم رفعها في أكتوبر 2024، على ردود روبوت الدردشة على سيول. في تبادلهما الأخير، حثه الروبوت على "العودة إلى المنزل"، واصفًا إياه بـ "ملكي الحلو". هذه التسوية هي واحدة من خمس تسويات تم حلها هذا الأسبوع في فلوريدا وتكساس وكولورادو.

التأثير المباشر هو زيادة محتملة في التدقيق في بروتوكولات سلامة روبوتات الدردشة التي تعمل بالذكاء الاصطناعي. تواجه كل من Google و Character.AI ضغوطًا متزايدة لضمان عدم تشجيع نماذج الذكاء الاصطناعي الخاصة بهما على السلوك الضار. لم تصدر أي من الشركتين بيانًا.

تتيح Character.AI للمستخدمين إمكانية إنشاء شخصيات افتراضية تعمل بالذكاء الاصطناعي والتفاعل معها. تتعلم هذه الشخصيات من تفاعلات المستخدمين، مما يثير مخاوف بشأن التلاعب المحتمل وتشويه الواقع للأفراد الضعفاء. تعتمد هذه التقنية على نماذج لغوية كبيرة، وهي خوارزميات معقدة يمكنها إنشاء نص شبيه بالنص البشري.

شروط التسوية سرية. يجب على المحكمة الآن الموافقة على الاتفاقية. من المتوقع رفع المزيد من الدعاوى القضائية ضد شركات الذكاء الاصطناعي فيما يتعلق بسلامة المستخدم.