وافقت Google و Character.AI على تسوية دعوى قضائية تزعم أن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي ساهمت في انتحار مراهق. الاتفاقية، التي كُشف عنها في ملف قانوني يوم الأربعاء، تحل قضية رفعتها ميغان إل. غارسيا في أكتوبر 2024. ابنها، سيويل سيتزر الثالث، 14 عامًا، من أورلاندو، أقدم على الانتحار في فبراير 2024.

تضمن تفاعل سيويل الأخير مع روبوت دردشة Character.AI حث الذكاء الاصطناعي له على "العودة إلى المنزل". زعمت الدعوى القضائية أن ردود روبوت الدردشة كانت عاملاً في وفاته. هذه التسوية هي واحدة من خمس تسويات تم التوصل إليها هذا الأسبوع في فلوريدا وتكساس وكولورادو.

التأثير الفوري للاتفاقية غير واضح، لكنه يثير تساؤلات حول سلامة روبوتات الدردشة التي تعمل بالذكاء الاصطناعي. تواجه كل من Google و Character.AI تدقيقًا متزايدًا فيما يتعلق بالضرر المحتمل الذي قد يسببه الذكاء الاصطناعي الخاص بهما. لم تصدر أي من الشركتين بيانًا.

تتيح Character.AI للمستخدمين القدرة على إنشاء "شخصيات" تعمل بالذكاء الاصطناعي والتفاعل معها. تتعلم هذه الشخصيات من تفاعلات المستخدمين، مما يثير مخاوف بشأن التلاعب والتأثير. تمكن التطورات الأخيرة في الذكاء الاصطناعي من إجراء تفاعلات أكثر واقعية وإقناعًا لروبوتات الدردشة.

يجب على المحكمة الآن الموافقة على التسوية. تظل شروط الاتفاقية سرية. تسلط هذه القضية الضوء على الحاجة المتزايدة إلى لوائح سلامة الذكاء الاصطناعي والمبادئ التوجيهية الأخلاقية.