অফকম গ্রোক এআই-এর যৌনতাপূর্ণ ডিপফেক উদ্বেগ নিয়ে এক্স-এর তদন্ত করছে

লন্ডন - যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম, ইলন মাস্কের সোশ্যাল মিডিয়া প্ল্যাটফর্ম এক্স (পূর্বে টুইটার) এর কৃত্রিম বুদ্ধিমত্তা সরঞ্জাম গ্রোক ব্যবহার করে যৌনতাপূর্ণ ছবি তৈরি করা হচ্ছে এমন উদ্বেগের কারণে একটি তদন্ত শুরু করেছে। অফকমের প্রকাশিত এক বিবৃতিতে বলা হয়েছে, চ্যাটবট ব্যবহার করে "গভীরভাবে উদ্বেগজনক প্রতিবেদন"-এর ভিত্তিতে ব্যক্তিদের বস্ত্রহীন ছবি এবং "শিশুদের যৌনতাপূর্ণ ছবি" তৈরি এবং শেয়ার করা হচ্ছে, যার কারণে এই তদন্ত শুরু হয়েছে।

তদন্তকারী সংস্থাটি খতিয়ে দেখবে যে ক্ষতিকারক কনটেন্ট তৈরি এবং বিতরণের ক্ষেত্রে এক্স প্রাসঙ্গিক আইন ও বিধি লঙ্ঘন করেছে কিনা। যদি এক্স দোষী সাব্যস্ত হয়, তবে অফকমের কোম্পানির বিশ্বব্যাপী রাজস্বের ১০% পর্যন্ত বা ১৮ মিলিয়ন পাউন্ড জরিমানা করার ক্ষমতা রয়েছে, যেটি বেশি হবে।

তদন্তের প্রতিক্রিয়ায়, এক্স বিবিসিকে তাদের সুরক্ষা অ্যাকাউন্ট থেকে জানুয়ারীর শুরুতে পোস্ট করা একটি বিবৃতির দিকে নির্দেশ করেছে। বিবৃতিতে লেখা ছিল: "যে কেউ গ্রোক ব্যবহার করে বা অবৈধ কনটেন্ট তৈরি করতে উৎসাহিত করবে, তাদের বিরুদ্ধে [ব্যবস্থা নেওয়া হবে]।" গ্রোকের অপব্যবহার রোধে কী কী নির্দিষ্ট পদক্ষেপ নেওয়া হচ্ছে, সে বিষয়ে কোম্পানিটি বিস্তারিত কিছু জানায়নি।

তদন্তটি এআই সরঞ্জামগুলির অপব্যবহারের মাধ্যমে ক্ষতিকারক কাজ করার সম্ভাবনা, বিশেষ করে ডিপফেক তৈরির বিষয়ে ক্রমবর্ধমান উদ্বেগকে তুলে ধরে। অফকমের এই পদক্ষেপ সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলির উপর ক্রমবর্ধমান নজরদারি এবং এআই দ্বারা তৈরি ক্ষতিকারক কনটেন্ট থেকে ব্যবহারকারীদের সুরক্ষার জন্য তাদের দায়িত্বের বিষয়টি তুলে ধরে। এই তদন্তের ফলাফল এক্স এবং অন্যান্য এআই প্রযুক্তি বিকাশ ও স্থাপনকারী সংস্থাগুলির জন্য তাৎপর্যপূর্ণ হতে পারে।