ডিপফেক উদ্বেগ বেড়ে যাওয়ায় মাস্কের X গ্রোকের ছবির পরিবর্তন সীমিত করলো

এলন মাস্কের এআই (AI) টুল গ্রোক এখন থেকে বাস্তব মানুষের ছবি পরিবর্তন করে এমন পোশাক পরিধান করানো ছবি তৈরি করতে পারবে না, যেখানে এই ধরনের পরিবর্তন অবৈধ। X-এর একটি ঘোষণা অনুযায়ী এমনটি জানানো হয়েছে। প্ল্যাটফর্মটির এআই চ্যাটবট দ্বারা তৈরি যৌনতাপূর্ণ এআই ডিপফেক নিয়ে উদ্বেগের পর এই সিদ্ধান্ত নেওয়া হয়েছে।

এলন মাস্কের মালিকানাধীন সামাজিক মাধ্যম প্ল্যাটফর্ম X জানিয়েছে, গ্রোক অ্যাকাউন্ট থেকে বাস্তব মানুষের ছবি পরিবর্তন করে আপত্তিকর পোশাক পরানো ছবি তৈরি করার অনুমতি বন্ধ করতে প্রযুক্তিগত পদক্ষেপ নেওয়া হয়েছে। এআই প্রযুক্তির সম্ভাব্য অপব্যবহার নিয়ে নিয়ন্ত্রক সংস্থা ও সমর্থনকারী গোষ্ঠীর কাছ থেকে ক্রমবর্ধমান চাপ এবং পর্যালোচনার পর এই পদক্ষেপ নেওয়া হয়েছে।

যুক্তরাজ্য সরকার এই পরিবর্তনকে স্বাগত জানিয়েছে এবং X-কে গ্রোক নিয়ন্ত্রণে আনার আহ্বানের "যথার্থতা প্রমাণ" হিসেবে অভিহিত করেছে। নিয়ন্ত্রক সংস্থা অফকম এই পদক্ষেপকে "স্বাগত" জানিয়েছে, তবে জোর দিয়ে বলেছে যে প্ল্যাটফর্মটি যুক্তরাজ্যের আইন লঙ্ঘন করেছে কিনা, সেই বিষয়ে তাদের তদন্ত "এখনও চলছে"। অফকম জানিয়েছে, "আমরা দিনরাত কাজ করে যাচ্ছি এবং কী ভুল হয়েছে এবং তা ঠিক করতে কী করা হচ্ছে, সে বিষয়ে উত্তর পাওয়ার চেষ্টা করছি।"

প্রযুক্তি বিষয়ক সেক্রেটারি লিজ কেন্ডালও এই পদক্ষেপকে স্বাগত জানিয়েছেন, তবে তিনি বলেছেন যে অফকমের চলমান তদন্তে তিনি "আশা করেন যে বিষয়টির সমস্ত তথ্য সম্পূর্ণরূপে এবং জোরালোভাবে প্রতিষ্ঠিত হবে।"

২০২৩ সালে X-এ চালু হওয়া গ্রোক একটি এআই চ্যাটবট, যা টেক্সট এবং ছবি তৈরি করার জন্য ডিজাইন করা হয়েছে। এই প্রযুক্তি ডিজিটাল কনটেন্ট বিশ্লেষণ এবং ম্যানিপুলেট করার জন্য মেশিন লার্নিং অ্যালগরিদম ব্যবহার করে। ডিপফেক তৈরি প্রতিরোধ করার জন্য X কর্তৃক গৃহীত নির্দিষ্ট প্রযুক্তিগত পদক্ষেপগুলো প্রকাশ করা হয়নি।

প্রচারকারীরা এবং ক্ষতিগ্রস্তরা যুক্তি দিয়েছেন যে এই পরিবর্তন প্রযুক্তি দ্বারা ইতিমধ্যে হওয়া ক্ষতি পূরণ করার জন্য যথেষ্ট নয়। সাংবাদিক ও প্রচারক জেস ডেভিস, যিনি সরাসরি উদ্ধৃত হননি, তিনি এআই-উত্পাদিত যৌনতাপূর্ণ কনটেন্ট প্ল্যাটফর্মটির দ্বারা নিয়ন্ত্রণের একজন সোচ্চার সমালোচক।

এই ঘটনা এআই প্রযুক্তি নিয়ন্ত্রণ এবং এর অপব্যবহার প্রতিরোধের চলমান চ্যালেঞ্জগুলো তুলে ধরে। বাস্তবসম্মত ডিপফেক তৈরি করার ক্ষমতা উল্লেখযোগ্য নৈতিক ও আইনি উদ্বেগ সৃষ্টি করে, বিশেষ করে গোপনীয়তা, সম্মতি এবং মানহানির ক্ষেত্রে। এই সিদ্ধান্তের ফলে অন্যান্য এআই প্ল্যাটফর্মগুলো তাদের সুরক্ষা প্রোটোকল এবং কনটেন্ট নিরীক্ষণ নীতিগুলো পুনর্বিবেচনা করতে পারে।