কল্পনা করুন আপনি আপনার স্বাস্থ্য সম্পর্কে জানার জন্য অনলাইনে অনুসন্ধান করছেন, কিন্তু আত্মবিশ্বাসী শোনাচ্ছে এমন কিছু পরামর্শ পাচ্ছেন যা আসলে ক্ষতিকর হতে পারে। এটা কোনো দুঃস্বপ্নের ভবিষ্যৎ নয়; এটি এমন একটি বাস্তবতা যার সঙ্গে গুগল লড়ছে, কারণ তারা এআই-চালিত অনুসন্ধানের জটিল জগতে পথ খুঁজে বের করার চেষ্টা করছে। এই চলমান কাহিনীর সর্বশেষ অধ্যায়ে কিছু নির্দিষ্ট চিকিৎসা সংক্রান্ত প্রশ্নের জন্য এআই ওভারভিউ (AI Overviews) - গুগলের এআই-জেনারেটেড সারসংক্ষেপ - অপসারণ করা হয়েছে। ভুল এবং সম্ভাব্য বিপজ্জনক তথ্যের উদ্বেগের কারণে এই পদক্ষেপ নেওয়া হয়েছে।

এই ঘটনাটি স্বাস্থ্যসেবার মতো সংবেদনশীল ক্ষেত্রে এআই ব্যবহারের অন্তর্নিহিত চ্যালেঞ্জগুলোকে তুলে ধরে। এআই ওভারভিউ, যা দ্রুত এবং সুবিধাজনক উত্তর দেওয়ার জন্য ডিজাইন করা হয়েছে, তা বিশাল ডেটাসেটের ওপর প্রশিক্ষিত অ্যালগরিদমের ওপর নির্ভর করে। তবে, এই ডেটাসেটগুলো সবসময় নিখুঁত নয়, এবং এআই মডেলগুলো মাঝে মাঝে তথ্য ভুলভাবে ব্যাখ্যা করতে পারে বা গুরুত্বপূর্ণ বিষয়গুলো বিবেচনায় নিতে ব্যর্থ হতে পারে। গার্ডিয়ানের প্রতিবেদন অনুযায়ী, লিভারের রক্ত পরীক্ষার ক্ষেত্রে, এআই একটি "স্বাভাবিক পরিসর" (normal range) সরবরাহ করেছে যা জাতীয়তা, লিঙ্গ, জাতিসত্তা বা বয়সের মতো গুরুত্বপূর্ণ বিষয়গুলো বিবেচনা করেনি। এর ফলে ব্যক্তিরা তাদের ফলাফল ভুলভাবে ব্যাখ্যা করতে পারত, যা সম্ভবত প্রয়োজনীয় চিকিৎসা মনোযোগে বিলম্ব ঘটাতে পারত।

গুগলের দ্রুত প্রতিক্রিয়া - নির্দিষ্ট সমস্যাযুক্ত প্রশ্নের জন্য এআই ওভারভিউ অপসারণ করা - এই সমস্যাগুলো সমাধানে তাদের প্রতিশ্রুতি প্রদর্শন করে। তবে, এই ঘটনাটি স্বাস্থ্যসেবায় এআই-এর ভূমিকা এবং এআই-উত্পাদিত তথ্যের নির্ভুলতা ও নিরাপত্তা নিশ্চিত করার ক্ষেত্রে প্রযুক্তি সংস্থাগুলোর দায়িত্ব সম্পর্কে বৃহত্তর প্রশ্নও উত্থাপন করে। গার্ডিয়ানের অনুসন্ধানে জানা গেছে যে "লিভারের রক্ত পরীক্ষার স্বাভাবিক পরিসর কী" (what is the normal range for liver blood tests) এবং "লিভার ফাংশন পরীক্ষার স্বাভাবিক পরিসর কী" (what is the normal range for liver function tests) এই প্রশ্নগুলোর জন্য এআই ওভারভিউ সরানো হলেও, এই প্রশ্নগুলোর কিছু ভিন্নতা এখনও এআই সারসংক্ষেপ তৈরি করছে। এটি অনেকটা "ইঁদুর মারার" (whack-a-mole) মতো, যেখানে সমস্যাযুক্ত আউটপুটগুলোকে একটি একটি করে সমাধান করা হচ্ছে, এআই মডেলের মৌলিক ত্রুটি সংশোধন করার পরিবর্তে।

মেডিকেল ইনফরমেটিক্স বিশেষজ্ঞ ডাঃ অনন্যা শর্মা ব্যাখ্যা করেন, "এআই একটি শক্তিশালী হাতিয়ার, তবে এটি মানুষের দক্ষতার বিকল্প নয়, বিশেষ করে যখন স্বাস্থ্যসেবার কথা আসে।" "এআই ভুল বা অসম্পূর্ণ তথ্য দেওয়ার ঝুঁকি অনেক বেশি, এবং ব্যবহারকারীদের এই সিস্টেমগুলোর সীমাবদ্ধতা বোঝা জরুরি।" ডাঃ শর্মা নিজের স্বাস্থ্য সম্পর্কে সিদ্ধান্ত নেওয়ার সময় সমালোচনামূলক চিন্তাভাবনা এবং যোগ্য স্বাস্থ্যসেবা পেশাদারদের সঙ্গে পরামর্শ করার ওপর জোর দেন।

টেকক্রাঞ্চকে দেওয়া এক বিবৃতিতে, গুগলের একজন মুখপাত্র এআই ওভারভিউগুলোর নির্ভুলতা এবং নির্ভরযোগ্যতা উন্নত করার জন্য কোম্পানির চলমান প্রচেষ্টার ওপর জোর দিয়েছেন। মুখপাত্র বলেন, "আমরা আমাদের এআই মডেলগুলোকে পরিমার্জন করতে এবং তারা যেন নির্ভুল ও সহায়ক তথ্য সরবরাহ করে তা নিশ্চিত করতে ক্রমাগত কাজ করছি।" "আমরা এই উদ্বেগগুলোকে গুরুত্ব সহকারে নিই এবং এগুলো সমাধানে প্রতিশ্রুতিবদ্ধ।" অপসারণের পরে কিছু ক্ষেত্রে শীর্ষ অনুসন্ধানের ফলাফল হিসেবে গার্ডিয়ানের নিবন্ধটি উঠে আসা, যেখানে এই সমস্যাটির বিশদ বিবরণ দেওয়া হয়েছে, তা গুগলের সচেতনতা এবং সমস্যাটির প্রতি তাদের প্রতিক্রিয়াশীল দৃষ্টিভঙ্গিকে তুলে ধরে।

এই পরিস্থিতি একটি গুরুত্বপূর্ণ বিষয়কে তুলে ধরে: এআই প্রতিশ্রুতিশীল হলেও ত্রুটিমুক্ত নয়। স্বাস্থ্যসেবার মতো সংবেদনশীল ক্ষেত্রে এর ব্যবহারের জন্য সতর্কতার সাথে বিবেচনা, কঠোর পরীক্ষা এবং ক্রমাগত পর্যবেক্ষণের প্রয়োজন। যেহেতু এআই মডেলগুলো আরও অত্যাধুনিক হচ্ছে এবং আমাদের দৈনন্দিন জীবনে আরও বেশি করে যুক্ত হচ্ছে, তাই এটা নিশ্চিত করার জন্য সুস্পষ্ট নির্দেশিকা এবং নৈতিক কাঠামো তৈরি করা অপরিহার্য যে এই প্রযুক্তিগুলো যেন দায়িত্বের সাথে ব্যবহৃত হয় এবং অজান্তে কোনো ক্ষতি না করে। কিছু নির্দিষ্ট চিকিৎসা সংক্রান্ত প্রশ্নের জন্য এআই ওভারভিউ অপসারণ করা একটি প্রয়োজনীয় পদক্ষেপ, তবে এটি একটি বৃহত্তর ধাঁধার একটি অংশ মাত্র। স্বাস্থ্যসেবায় এআই-এর ভবিষ্যৎ প্রযুক্তি সংস্থা, স্বাস্থ্যসেবা পেশাদার এবং নীতিনির্ধারকদের মধ্যে একটি সহযোগী প্রচেষ্টার ওপর নির্ভর করে, যাতে এই শক্তিশালী সরঞ্জামগুলো নিরাপদে এবং কার্যকরভাবে ব্যবহার করা যায়।