ভাবুন তো, এমন একটা পৃথিবী যেখানে একটা গুগল সার্চ আপনার স্বাস্থ্যের সমস্যাগুলো তাৎক্ষণিকভাবে নির্ণয় করতে পারে। এআই (AI) দ্বারা চালিত সেই ভবিষ্যৎ খুব কাছেই, কিন্তু সাম্প্রতিক ঘটনাগুলো সামনে থাকা চ্যালেঞ্জগুলোর কথা মনে করিয়ে দেয়। গুগল নীরবে তাদের এআই ওভারভিউ (AI Overviews) ফিচারটি কিছু নির্দিষ্ট স্বাস্থ্য বিষয়ক অনুসন্ধানের জন্য বন্ধ করে দিয়েছে। ভুল এবং সম্ভাব্য ক্ষতিকর তথ্যের উদ্বেগের কারণে এই পদক্ষেপ নেওয়া হয়েছে।

গার্ডিয়ানের একটি অনুসন্ধানের পর এই সিদ্ধান্ত নেওয়া হয়। অনুসন্ধানে দেখা যায় যে, গুগলের এআই লিভারের রক্ত পরীক্ষার স্বাভাবিক মাত্রা সম্পর্কে ভুল তথ্য দিচ্ছে। এআই-উত্পাদিত সারসংক্ষেপগুলোতে জাতীয়তা, লিঙ্গ, জাতি বা বয়সের মতো গুরুত্বপূর্ণ বিষয়গুলো বিবেচনা করা হয়নি, যার ফলে ব্যবহারকারীরা তাদের ফলাফল ভুলভাবে ব্যাখ্যা করতে পারত এবং সুস্থ না হয়েও সুস্থ আছে বলে মনে করতে পারত। যদিও গুগল "লিভারের রক্ত পরীক্ষার স্বাভাবিক মাত্রা কত" এবং "লিভার ফাংশন পরীক্ষার স্বাভাবিক মাত্রা কত" এর মতো নির্দিষ্ট অনুসন্ধানের জন্য এআই ওভারভিউ সরিয়ে দিয়েছে, তবে এই অনুসন্ধানের কিছু ভিন্ন রূপে এখনও এআই-উত্পাদিত সারসংক্ষেপ দেখা যাচ্ছে, যা সমস্যাটি সম্পূর্ণরূপে দূর করার কঠিন দিকটি তুলে ধরে।

এই ঘটনাটি স্বাস্থ্যসেবার মতো সংবেদনশীল ক্ষেত্রে এআই ব্যবহারের জটিলতাগুলো তুলে ধরে। এআই মডেলগুলো মূলত বিশাল ডেটা সেটের ওপর ভিত্তি করে প্রশিক্ষিত। যদি এই ডেটা সেটগুলো অসম্পূর্ণ, পক্ষপাতদুষ্ট বা পুরনো তথ্যযুক্ত হয়, তাহলে এআই অনিবার্যভাবে ত্রুটিপূর্ণ ফলাফল দেবে। চিকিৎসা তথ্যের ক্ষেত্রে, এই ধরনের ভুলগুলোর গুরুতর পরিণতি হতে পারে। স্বাস্থ্যসেবায় এআই-এর সম্ভাবনা বিশাল। ভাবুন, এআই-চালিত সরঞ্জামগুলো মানুষের চেয়ে দ্রুত এবং নির্ভুলভাবে মেডিকেল ছবি বিশ্লেষণ করতে পারে, অথবা ব্যক্তিগত জিনগত গঠনের ওপর ভিত্তি করে তৈরি ব্যক্তিগতকৃত চিকিৎসার পরিকল্পনা দিতে পারে। তবে, এই সম্ভাবনাকে বাস্তবে রূপ দিতে নৈতিক এবং ব্যবহারিক চ্যালেঞ্জগুলো সাবধানে বিবেচনা করতে হবে।

এআই এথিক্সের একজন শীর্ষ গবেষক ডঃ এমিলি কার্টার ব্যাখ্যা করেন, "এআই একটি শক্তিশালী সরঞ্জাম, তবে এটি মানুষের দক্ষতার বিকল্প নয়।" "আমাদের এআই-উত্পাদিত তথ্যের ওপর সম্পূর্ণরূপে নির্ভর করা সম্পর্কে সতর্ক থাকতে হবে, বিশেষ করে স্বাস্থ্য সম্পর্কিত বিষয়ে। মানুষের তত্ত্বাবধান এবং সমালোচনামূলক চিন্তাভাবনা অপরিহার্য।" গুগলের এআই ওভারভিউ নিয়ে ঘটনাটি স্বাস্থ্য বিষয়ক তথ্য সরবরাহে প্রযুক্তি সংস্থাগুলোর ভূমিকা সম্পর্কে প্রশ্ন তোলে। তাদের কি চিকিৎসা পেশাদারদের মতো একই মানদণ্ডে ধরা উচিত? তারা কীভাবে এআই-উত্পাদিত সামগ্রীর নির্ভুলতা এবং নির্ভরযোগ্যতা নিশ্চিত করতে পারে?

গুগলের একজন মুখপাত্র জানিয়েছেন যে, কোম্পানি "ব্যবহারকারীদের উচ্চ-মানের তথ্য সরবরাহ করতে প্রতিশ্রুতিবদ্ধ" এবং "এআই ওভারভিউয়ের নির্ভুলতা এবং নির্ভরযোগ্যতা উন্নত করার জন্য ক্রমাগত কাজ করছে।" এই প্রতিশ্রুতির জন্য ডেটার গুণমান, অ্যালগরিদম পরিশোধন এবং মানব পর্যালোচনার প্রক্রিয়ায় ক্রমাগত বিনিয়োগের প্রয়োজন হবে। সাম্প্রতিক ঘটনাগুলো প্রযুক্তি শিল্পে দায়িত্বশীল এআই উন্নয়নের প্রয়োজনীয়তা সম্পর্কে সচেতনতা বৃদ্ধির ইঙ্গিত দেয়। কোম্পানিগুলো বুঝতে শুরু করেছে যে এআই কোনো জাদুকাঠি নয় এবং এর সফল ব্যবহারের জন্য সতর্ক পরিকল্পনা এবং নৈতিক বিবেচনা অত্যন্ত গুরুত্বপূর্ণ।

ভবিষ্যতের দিকে তাকিয়ে, স্বাস্থ্যসেবায় এআই-এর ভবিষ্যৎ প্রযুক্তিবিদ, চিকিৎসা পেশাদার এবং নীতিনির্ধারকদের মধ্যে সহযোগিতার ওপর নির্ভর করে। একসঙ্গে কাজ করে, আমরা ভুল তথ্য এবং পক্ষপাতিত্বের ঝুঁকি কমিয়ে এনে স্বাস্থ্যের উন্নতিতে এআই-এর শক্তিকে কাজে লাগাতে পারি। নির্দিষ্ট চিকিৎসা অনুসন্ধানের জন্য গুগলের এআই ওভারভিউ সরিয়ে নেওয়া একটি মূল্যবান শিক্ষা। এটি আমাদের মনে করিয়ে দেয় যে এআই একটি সরঞ্জাম, এবং অন্য যেকোনো সরঞ্জামের মতো, এটি ভালো বা খারাপের জন্য ব্যবহার করা যেতে পারে। আমাদের দায়িত্ব হল এআই এমনভাবে তৈরি এবং ব্যবহার করা যা মানবতার উপকার করে।