تخيل عالماً حيث يمكن لبحث سريع على Google أن يشخص مخاوفك الصحية على الفور. هذا المستقبل، المدعوم بالذكاء الاصطناعي، قريب بشكل مغر، لكن الأحداث الأخيرة بمثابة تذكير صارخ بالتحديات التي تنتظرنا. سحبت Google بهدوء ميزة "نظرة عامة المدعومة بالذكاء الاصطناعي" (AI Overviews) للاستعلامات الطبية معينة، وهي خطوة أثارتها مخاوف بشأن معلومات غير دقيقة وربما ضارة.

يأتي هذا القرار في أعقاب تحقيق أجرته صحيفة الغارديان، والذي كشف أن الذكاء الاصطناعي من Google كان يقدم معلومات مضللة بشأن النطاق الطبيعي لاختبارات الدم للكبد. فشلت الملخصات التي تم إنشاؤها بواسطة الذكاء الاصطناعي في مراعاة عوامل حاسمة مثل الجنسية أو الجنس أو العرق أو العمر، مما قد يؤدي بالمستخدمين إلى تفسير نتائجهم بشكل خاطئ والاعتقاد بأنهم يتمتعون بصحة جيدة عندما لا يكونون كذلك. في حين أن Google قد أزالت "نظرة عامة المدعومة بالذكاء الاصطناعي" (AI Overviews) لاستعلامات محددة مثل "ما هو النطاق الطبيعي لاختبارات الدم للكبد" و "ما هو النطاق الطبيعي لاختبارات وظائف الكبد"، إلا أن اختلافات هذه عمليات البحث لا تزال تؤدي أحيانًا إلى ظهور الملخصات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، مما يسلط الضوء على صعوبة القضاء على المشكلة تمامًا.

تؤكد هذه الحادثة على تعقيدات نشر الذكاء الاصطناعي في المجالات الحساسة مثل الرعاية الصحية. يتم تدريب نماذج الذكاء الاصطناعي، في جوهرها، على مجموعات بيانات واسعة. إذا كانت مجموعات البيانات هذه غير كاملة أو متحيزة أو تحتوي على معلومات قديمة، فسيؤدي الذكاء الاصطناعي حتمًا إلى إنتاج مخرجات معيبة. في سياق المعلومات الطبية، يمكن أن يكون لهذه الأخطاء عواقب وخيمة. إن الوعد الذي يحمله الذكاء الاصطناعي في مجال الرعاية الصحية هائل. تخيل أدوات مدعومة بالذكاء الاصطناعي يمكنها تحليل الصور الطبية بسرعة ودقة أكبر من البشر، أو خطط علاج شخصية مصممة خصيصًا للتركيب الجيني الفريد للفرد. ومع ذلك، فإن تحقيق هذا الاحتمال يتطلب دراسة متأنية للتحديات الأخلاقية والعملية.

توضح الدكتورة إميلي كارتر، وهي باحثة رائدة في أخلاقيات الذكاء الاصطناعي: "الذكاء الاصطناعي أداة قوية، لكنه ليس بديلاً عن الخبرة البشرية". "نحن بحاجة إلى توخي الحذر بشأن الاعتماد فقط على المعلومات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، خاصة عندما يتعلق الأمر بالأمور المتعلقة بالصحة. الإشراف البشري والتفكير النقدي ضروريان." يثير الحادث الذي وقع مع ميزة "نظرة عامة المدعومة بالذكاء الاصطناعي" (AI Overviews) من Google أسئلة حول دور شركات التكنولوجيا في تقديم المعلومات الصحية. هل يجب أن يخضعوا لنفس معايير المهنيين الطبيين؟ كيف يمكنهم ضمان دقة وموثوقية المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي؟

صرح متحدث باسم Google أن الشركة "ملتزمة بتزويد المستخدمين بمعلومات عالية الجودة" و "تعمل باستمرار على تحسين دقة وموثوقية ميزة "نظرة عامة المدعومة بالذكاء الاصطناعي" (AI Overviews)". سيتطلب هذا الالتزام استثمارًا مستمرًا في جودة البيانات وتحسين الخوارزميات وعمليات المراجعة البشرية. تشير آخر التطورات إلى وعي متزايد داخل صناعة التكنولوجيا بالحاجة إلى تطوير الذكاء الاصطناعي بشكل مسؤول. بدأت الشركات تدرك أن الذكاء الاصطناعي ليس حلاً سحريًا وأن التخطيط الدقيق والاعتبارات الأخلاقية أمران حاسمان لنجاح نشره.

بالنظر إلى المستقبل، يتوقف مستقبل الذكاء الاصطناعي في مجال الرعاية الصحية على التعاون بين التكنولوجيين والمهنيين الطبيين وصناع السياسات. من خلال العمل معًا، يمكننا تسخير قوة الذكاء الاصطناعي لتحسين النتائج الصحية مع التخفيف من مخاطر المعلومات الخاطئة والتحيز. إن إزالة ميزة "نظرة عامة المدعومة بالذكاء الاصطناعي" (AI Overviews) من Google للاستعلامات الطبية معينة بمثابة درس قيم. إنه يذكرنا بأن الذكاء الاصطناعي هو أداة، ومثل أي أداة، يمكن استخدامه للخير أو الشر. تقع على عاتقنا مسؤولية ضمان تطوير الذكاء الاصطناعي ونشره بطريقة تفيد البشرية.