ডিপফেক উদ্বেগের মধ্যে Grok-এর ছবি পরিবর্তনের ক্ষমতা X সীমিত করলো

ইলন মাস্কের এআই (AI) টুল গ্রোক (Grok) এখন থেকে বাস্তব মানুষের ছবি সম্পাদনা করে এমনভাবে পোশাক পরাতে পারবে না, যা সেইসব বিচারব্যবস্থায় অবৈধ যেখানে এই ধরনের পরিবর্তন নিষিদ্ধ। মাস্কের মালিকানাধীন সামাজিক মাধ্যম X-এ এই ঘোষণা করা হয়েছে, যেখানে ২০২৩ সালে গ্রোক চালু করা হয়েছিল। এই ঘোষণাটি যৌনতা বিষয়ক এআই (AI) ডিপফেক (deepfake) তৈরির সম্ভাবনা নিয়ে উদ্বেগের পরেই করা হলো।

X জানিয়েছে যে, গ্রোক অ্যাকাউন্ট থেকে বাস্তব মানুষের ছবিতে আপত্তিকর পোশাক পরানো যায়, তা প্রতিরোধ করার জন্য "প্রযুক্তিগত ব্যবস্থা" নেওয়া হয়েছে। এই পদক্ষেপটি সমালোচনার পরে নেওয়া হয়েছে। নিয়ন্ত্রক সংস্থা এবং সাধারণ মানুষ উভয়েই এআই (AI) প্রযুক্তি ব্যবহার করে সম্মতি ছাড়াই যৌন উত্তেজক কনটেন্ট (content) তৈরির বিষয়ে উদ্বেগ প্রকাশ করেছে, যার ফলে এই প্রযুক্তির ব্যবহার ক্ষতি করতে পারে।

যুক্তরাজ্য সরকার এই পরিবর্তনকে স্বাগত জানিয়েছে এবং X-কে গ্রোক নিয়ন্ত্রণ করার জন্য যে আহ্বান জানানো হয়েছিল, সেটির "যৌক্তিকতা প্রমাণ" হিসেবে অভিহিত করেছে। যুক্তরাজ্যের যোগাযোগ বিষয়ক নিয়ন্ত্রক সংস্থা অফকম (Ofcom) এই পদক্ষেপকে "স্বাগত" জানিয়েছে, তবে জোর দিয়ে বলেছে যে প্ল্যাটফর্মটি যুক্তরাজ্যের আইন লঙ্ঘন করেছে কিনা, সেই বিষয়ে তাদের তদন্ত "এখনও চলছে"। অফকম (Ofcom) জানিয়েছে যে, তারা "দিনরাত কাজ করছে, কী ভুল হয়েছে এবং তা ঠিক করার জন্য কী করা হচ্ছে, সেই বিষয়ে উত্তর খুঁজে বের করার জন্য।" প্রযুক্তি বিষয়ক সেক্রেটারি লিজ কেন্ডালও এই পদক্ষেপকে স্বাগত জানিয়েছেন এবং যোগ করেছেন যে তিনি "অফকমের চলমান তদন্ত দ্বারা সম্পূর্ণরূপে এবং জোরালোভাবে বিষয়টির সত্যতা প্রমাণ হবে বলে আশা করেন।"

Grok-এর মতো এআই (AI) সরঞ্জামগুলির ছবি ম্যানিপুলেট (manipulate) করার ক্ষমতা নৈতিক ও আইনি উভয় ক্ষেত্রেই গুরুত্বপূর্ণ প্রশ্ন তোলে। ডিপফেক (deepfake) হলো সিনথেটিক (synthetic) মিডিয়া (media), যেখানে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারও প্রতিচ্ছবি দিয়ে প্রতিস্থাপন করা হয়। এটি ক্রমশ জটিল হয়ে উঠছে, যার ফলে এগুলোকে শনাক্ত করা কঠিন হয়ে পড়ছে। এর ফলে বিদ্বেষপূর্ণ উদ্দেশ্যে এগুলোর ব্যবহার নিয়ে উদ্বেগ দেখা দিয়েছে, যার মধ্যে রয়েছে সম্মতিবিহীন পর্নোগ্রাফি (pornography) তৈরি, ভুল তথ্য প্রচার এবং পরিচয় চুরি।

X, Grok-কে এই ধরনের ছবি তৈরি করা থেকে আটকাতে যে প্রযুক্তিগত ব্যবস্থা নিয়েছে, তা ঘোষণায় বিস্তারিতভাবে জানানো হয়নি। তবে সম্ভাব্য সমাধানগুলির মধ্যে ফিল্টারিং অ্যালগরিদম (filtering algorithm) অন্তর্ভুক্ত থাকতে পারে, যা যৌন উত্তেজক কনটেন্ট (content) তৈরির অনুরোধ সনাক্ত এবং ব্লক (block) করার জন্য ডিজাইন (design) করা হয়েছে, সেইসাথে এআই (AI) দ্বারা তৈরি ছবিগুলোর উৎস নির্দেশ করার জন্য ওয়াটারমার্কিংও (watermarking) করা হতে পারে।

প্রচারকারীরা এবং ক্ষতিগ্রস্তরা যুক্তি দিয়েছেন যে, ইতিমধ্যে যে ক্ষতি হয়েছে, তা পূরণ করার জন্য এই পরিবর্তন অনেক দেরিতে করা হয়েছে। সাংবাদিক ও প্রচারক জেস ডেভিস, যিনি প্রদত্ত উৎস উপাদানে সরাসরি উদ্ধৃত হননি, সম্ভবত এই বিষয়ে সচেতনতা বাড়াতে জড়িত ছিলেন। এই ঘটনাটি দ্রুত বিকশিত হওয়া এআই (AI) প্রযুক্তিগুলিকে নিয়ন্ত্রণ করার চ্যালেঞ্জ এবং তাদের অপব্যবহার রোধে সক্রিয় পদক্ষেপের প্রয়োজনীয়তার ওপর আলোকপাত করে। অফকমের চলমান তদন্তে সম্ভবত খতিয়ে দেখা হবে যে, X বিদ্বেষপূর্ণ উদ্দেশ্যে Grok ব্যবহারের সম্ভাবনা সম্পর্কে কতটা সচেতন ছিল এবং এই ধরনের অপব্যবহার রোধে কোম্পানি কোনো পদক্ষেপ নিয়েছিল কিনা। এই তদন্তের ফলাফল সামাজিক মাধ্যম প্ল্যাটফর্মগুলিতে এআই (AI) প্রযুক্তিগুলির নিয়ন্ত্রণের জন্য গুরুত্বপূর্ণ প্রভাব ফেলতে পারে।