تخيل عالماً يكون فيه الحصول على المشورة الطبية بسيطاً مثل طرح سؤال على محرك البحث الخاص بك. هذا هو الوعد الذي يقدمه البحث المدعوم بالذكاء الاصطناعي، ولكن الأحداث الأخيرة تسلط الضوء على التوازن الدقيق بين الراحة والدقة، خاصة عندما يتعلق الأمر بالصحة.

سحبت Google بهدوء نظراتها العامة المدعومة بالذكاء الاصطناعي (AI Overviews) لبعض الاستعلامات الطبية، وهي خطوة تؤكد التحديات المستمرة التي تواجه نشر الذكاء الاصطناعي في المجالات الحساسة. يأتي هذا القرار في أعقاب تقرير نشرته صحيفة الغارديان كشف أن الذكاء الاصطناعي الخاص بـ Google كان يقدم معلومات مضللة محتملة حول الموضوعات المتعلقة بالصحة، وتحديداً فيما يتعلق بالنطاق الطبيعي لاختبارات الدم الخاصة بالكبد. يبدو أن الذكاء الاصطناعي كان يقدم أرقاماً عامة فشلت في مراعاة العوامل الفردية الحاسمة مثل الجنسية والجنس والعرق والعمر. يمكن أن يؤدي ذلك إلى قيام المستخدمين بتفسير نتائج الاختبارات الخاصة بهم بشكل خاطئ، مما قد يؤخر التدخل الطبي الضروري.

تم إطلاق AI Overviews، بطموح تقديم إجابات سريعة ومجمعة لاستعلامات المستخدمين، وهي تمثل رؤية Google لمستقبل البحث. بدلاً من مجرد سرد مواقع الويب ذات الصلة، يهدف الذكاء الاصطناعي إلى استخراج المعلومات وتلخيصها، وتقديمها بتنسيق موجز وسهل الهضم. هذا النهج، على الرغم من كونه واعداً في العديد من المجالات، يواجه عقبات كبيرة عند تطبيقه على الطب. جسم الإنسان معقد، والمعلومات الطبية غالباً ما تكون دقيقة وتعتمد على السياق. يمكن للذكاء الاصطناعي الذي يبالغ في التبسيط أو يتجاهل المتغيرات الحاسمة أن ينشر عن غير قصد معلومات خاطئة، مع عواقب وخيمة محتملة.

كشف تحقيق الغارديان أن السؤال "ما هو النطاق الطبيعي لاختبارات الدم الخاصة بالكبد" سيؤدي إلى ظهور ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي بأرقام قد تكون غير دقيقة. في حين أن Google قد أزالت منذ ذلك الحين AI Overviews لهذا الاستعلام المحدد واستعلام مماثل ("ما هو النطاق الطبيعي لاختبارات وظائف الكبد")، وجدت الغارديان أن الاختلافات الطفيفة في الأسئلة لا تزال تؤدي إلى استجابة الذكاء الاصطناعي. اعتباراً من صباح هذا اليوم، بعد عدة ساعات من نشر تقرير الغارديان، لم تعد هذه الاختلافات تنتج AI Overviews في اختباراتنا الخاصة، على الرغم من أن Google لا تزال تقدم خيار إعادة صياغة الاستعلام في "وضع الذكاء الاصطناعي". ومن المثير للاهتمام، في بعض الحالات، كانت نتيجة البحث الأولى هي مقالة الغارديان نفسها، وهو دليل على السرعة التي يمكن بها الآن نشر المعلومات والتصحيحات.

يثير هذا الحادث أسئلة أساسية حول دور الذكاء الاصطناعي في الرعاية الصحية ومسؤولية شركات التكنولوجيا في ضمان دقة وسلامة أنظمة الذكاء الاصطناعي الخاصة بها. تقول الدكتورة إميلي كارتر، أستاذة المعلوماتية الطبية الحيوية: "الذكاء الاصطناعي هو أداة قوية، ولكنه ليس بديلاً عن الخبرة البشرية، خاصة في الطب". "نحن بحاجة إلى توخي الحذر الشديد بشأن الاعتماد على الذكاء الاصطناعي للحصول على المشورة الطبية دون التحقق والإشراف المناسبين."

يكمن التحدي في تدريب نماذج الذكاء الاصطناعي على فهم تعقيدات المعرفة الطبية ومراعاة التباين الفردي المتأصل في صحة الإنسان. وهذا يتطلب ليس فقط الوصول إلى كميات هائلة من البيانات ولكن أيضاً خوارزميات متطورة يمكنها تمييز الأنماط والعلاقات الدقيقة. علاوة على ذلك، فإنه يستلزم المراقبة والتقييم المستمر لتحديد الأخطاء وتصحيحها.

قال متحدث باسم Google لموقع TechCrunch إن الشركة ملتزمة بتحسين جودة ودقة AI Overviews وأنها تعمل بنشاط لمعالجة القضايا التي أثارها تقرير الغارديان. وقال المتحدث: "نحن نعمل باستمرار على تحسين نماذجنا ودمج التعليقات الواردة من الخبراء لضمان أن أنظمة الذكاء الاصطناعي الخاصة بنا تقدم معلومات موثوقة ومفيدة".

بالنظر إلى المستقبل، سيتطلب تطوير الذكاء الاصطناعي في الرعاية الصحية جهداً تعاونياً بين شركات التكنولوجيا والمهنيين الطبيين والهيئات التنظيمية. هناك حاجة إلى إرشادات ومعايير واضحة لضمان استخدام أنظمة الذكاء الاصطناعي بمسؤولية وأخلاقية. علاوة على ذلك، من الضروري تثقيف الجمهور حول قيود الذكاء الاصطناعي وتشجيع التفكير النقدي عند البحث عن معلومات طبية عبر الإنترنت. إن الوعد الذي يحمله الذكاء الاصطناعي في الرعاية الصحية هائل، ولكن تحقيق هذا الوعد يتطلب الالتزام بالدقة والشفافية وجرعة صحية من الشك. إن الإزالة الأخيرة لـ AI Overviews لبعض الاستعلامات الطبية بمثابة تذكير صارخ بالتحديات التي تنتظرنا وأهمية إعطاء الأولوية لسلامة المرضى قبل كل شيء.