ডিপফেক উদ্বেগের মধ্যে Grok-এর ছবি পরিবর্তনের উপর X বিধিনিষেধ আরোপ করেছে

ইলন মাস্কের এআই (AI) টুল গ্রোক এখন থেকে বাস্তব মানুষের ছবি সম্পাদনা করে এমন পোশাক পরিধান করানো ছবি তৈরি করতে পারবে না, যেখানে এই ধরনের পরিবর্তন অবৈধ। মাস্কের মালিকানাধীন সোশ্যাল মিডিয়া প্ল্যাটফর্ম X-এ এই ঘোষণাটি করা হয়েছে, যেখানে যৌনতাপূর্ণ এআই (AI) ডিপফেক তৈরি হওয়ার সম্ভাবনা নিয়ে ব্যাপক উদ্বেগ রয়েছে।

X জানিয়েছে যে তারা "Grok অ্যাকাউন্ট থেকে বাস্তব মানুষের ছবিতে আপত্তিকর পোশাক পরানো ছবি তৈরি করা বন্ধ করতে প্রযুক্তিগত ব্যবস্থা নিয়েছে।" এআই (AI) টুলটির সম্ভাব্য অপব্যবহারের বিষয়ে সমালোচনা ও নিয়ন্ত্রক সংস্থার তদন্তের পরেই এই পদক্ষেপ নেওয়া হয়েছে।

যুক্তরাজ্য সরকার এই পরিবর্তনের প্রতিক্রিয়ায় একে X কর্তৃক Grok নিয়ন্ত্রণের আহ্বানের "যৌক্তিকতা" বলে অভিহিত করেছে। যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম এই পদক্ষেপকে "স্বাগত" জানিয়েছে, তবে জোর দিয়ে বলেছে যে X যুক্তরাজ্যের আইন লঙ্ঘন করেছে কিনা, সেই বিষয়ে তাদের তদন্ত "এখনও চলছে"। অফকম জানিয়েছে, "আমরা দিনরাত কাজ করে যাচ্ছি এবং কী ভুল হয়েছে এবং তা সমাধানের জন্য কী করা হচ্ছে, সে বিষয়ে উত্তর জানার চেষ্টা করছি।"

টেকনোলজি সেক্রেটারি লিজ কেন্ডালও এই পরিবর্তন স্বীকার করেছেন, তবে বলেছেন যে তিনি "অফকমের চলমান তদন্ত দ্বারা সম্পূর্ণরূপে এবং জোরালোভাবে ঘটনাগুলো প্রতিষ্ঠিত হবে বলে আশা করেন।"

২০২৩ সালে চালু হওয়া Grok হল X প্ল্যাটফর্মের সাথে যুক্ত একটি এআই (AI) টুল। এর সক্ষমতার মধ্যে ছবি সম্পাদনাও অন্তর্ভুক্ত, যা অপব্যবহারের সম্ভাবনা নিয়ে উদ্বেগ বাড়িয়েছে, বিশেষ করে সম্মতিবিহীন ডিপফেক তৈরির ক্ষেত্রে। বাস্তবায়িত প্রযুক্তিগত ব্যবস্থাগুলির লক্ষ্য হল এআই (AI)-কে এমন ছবি তৈরি করা থেকে বিরত রাখা, যেখানে বাস্তব ব্যক্তিদের সম্মতি ছাড়াই যৌন উত্তেজক বা আপত্তিকর পোশাকে উপস্থাপন করা হয়।

প্রচারকারীরা এবং ক্ষতিগ্রস্তরা যুক্তি দিয়েছেন যে এই পরিবর্তনটি অনেক আগেই হওয়া উচিত ছিল এবং এটি ইতিমধ্যে যে ক্ষতি হয়েছে তা পূরণ করতে পারবে না। সাংবাদিক ও প্রচারক জেস ডেভিস এআই (AI) দ্বারা সৃষ্ট অপব্যবহারের বিরুদ্ধে আরও শক্তিশালী সুরক্ষার প্রয়োজনীয়তার বিষয়ে সোচ্চার হয়েছেন।

Grok-কে এই ধরনের ছবি তৈরি করা থেকে বিরত রাখতে X কর্তৃক বাস্তবায়িত নির্দিষ্ট প্রযুক্তিগত ব্যবস্থাগুলি ঘোষণায় বিস্তারিতভাবে জানানো হয়নি। তবে এই ধরনের ব্যবস্থায় সাধারণত কন্টেন্ট ফিল্টারিং, ইমেজ রিকগনিশন অ্যালগরিদম এবং এআই (AI) যে ধরনের প্রম্পট প্রক্রিয়া করতে পারে তার উপর বিধিনিষেধের সংমিশ্রণ জড়িত থাকে। এই ফিল্টারগুলি অনুপযুক্ত বা ক্ষতিকারক কন্টেন্ট তৈরি করতে পারে এমন অনুরোধগুলি সনাক্ত এবং ব্লক করার জন্য ডিজাইন করা হয়েছে।

এই ঘটনাটি এআই (AI) চালিত সরঞ্জামগুলির ক্রমবর্ধমান চ্যালেঞ্জ এবং নৈতিক বিবেচনাগুলিকে তুলে ধরে, বিশেষ করে ছবি ম্যানিপুলেশন এবং ডিপফেক প্রযুক্তির ক্ষেত্রে। এআই (AI) প্রযুক্তির অগ্রগতির সাথে সাথে ডেভেলপার এবং প্ল্যাটফর্মগুলি অপব্যবহার রোধ করতে এবং ব্যক্তিদের ক্ষতি থেকে রক্ষা করার জন্য সুরক্ষামূলক ব্যবস্থা বাস্তবায়নের জন্য ক্রমবর্ধমান চাপের সম্মুখীন হচ্ছে। অফকমের চলমান তদন্ত নিয়ন্ত্রক সংস্থার হস্তক্ষেপের সম্ভাবনা এবং এআই (AI) দ্বারা তৈরি কন্টেন্ট সম্পর্কিত স্থানীয় আইন ও প্রবিধানগুলি মেনে চলার জন্য প্ল্যাটফর্মগুলির প্রয়োজনীয়তার উপর জোর দেয়।