মার্কিন যুক্তরাষ্ট্রের কয়েকজন সিনেটর X, মেটা, অ্যালফাবেট, স্ন্যাপ, রেডডিট এবং টিকটক সহ প্রধান প্রযুক্তি কোম্পানিগুলোর কাছে তাদের প্ল্যাটফর্মে যৌনতাপূর্ণ ডিপফেকগুলোর বিস্তার মোকাবেলার প্রচেষ্টা সম্পর্কে জবাব চেয়েছেন। এই কোম্পানিগুলোর নেতৃত্বের কাছে পাঠানো এক চিঠিতে, সিনেটররা এআই-উত্পাদিত যৌন চিত্রগুলোর বিস্তার রোধ করার জন্য ডিজাইন করা শক্তিশালী সুরক্ষা এবং নীতিমালার প্রমাণ চেয়েছেন।

সিনেটররা কোম্পানিগুলোকে যৌনতাপূর্ণ, এআই-উত্পাদিত ছবি তৈরি, সনাক্তকরণ, নিরীক্ষণ এবং নগদীকরণ সম্পর্কিত সমস্ত নথি এবং তথ্য, সেইসাথে প্রাসঙ্গিক যেকোনো নীতিমালা সংরক্ষণের নির্দেশ দিয়েছেন। এই অনুরোধটি এমন প্রতিবেদনের পরে করা হয়েছে যেখানে তুলে ধরা হয়েছে যে X এবং xAI দ্বারা তৈরি Grok-এর মতো এআই মডেলগুলো দিয়ে নারী ও শিশু সহ যৌনতাপূর্ণ এবং নগ্ন ছবি তৈরি করা কতটা সহজ।

চিঠিতে জোর দেওয়া হয়েছে যে বিদ্যমান প্ল্যাটফর্মের সুরক্ষাগুলো সম্মতিবিহীন, যৌনতাপূর্ণ চিত্রগুলোর বিরুদ্ধে সম্ভবত যথেষ্ট নয়। সিনেটররা বলেছেন, "আমরা স্বীকার করি যে অনেক কোম্পানির সম্মতিবিহীন অন্তরঙ্গ চিত্র এবং যৌন শোষণের বিরুদ্ধে নীতিমালা রয়েছে এবং অনেক এআইও আছে," যা ইঙ্গিত করে যে বর্তমান ব্যবস্থাগুলো সমস্যাটির পর্যাপ্ত সমাধান করতে পারছে না।

X কর্তৃক Grok-এর আপডেটের ঘোষণার পরপরই তথ্যের এই চাহিদা সামনে এলো, যেখানে এআইটিকে বাস্তব মানুষের উত্তেজক পোশাকের ছবি তৈরি করা থেকে নিষিদ্ধ করা হয়েছে। X, Grok-এর মাধ্যমে ছবি তৈরি এবং সম্পাদনাকেও শুধুমাত্র অর্থ প্রদানকারী গ্রাহকদের জন্য সীমাবদ্ধ করেছে। গণমাধ্যমের প্রতিবেদনে এআইয়ের মাধ্যমে সুস্পষ্ট বিষয়বস্তু তৈরি করার ক্ষমতা সম্পর্কে বিস্তারিত জানানোর প্রতিক্রিয়ায় এই পরিবর্তনগুলো বাস্তবায়ন করা হয়েছে।

ডিপফেক, যা কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে বাস্তবসম্মত কিন্তু জাল ছবি এবং ভিডিও তৈরি করে, তা প্রযুক্তি কোম্পানিগুলোর জন্য একটি গুরুত্বপূর্ণ চ্যালেঞ্জ তৈরি করেছে। এই প্রযুক্তি সম্মতিবিহীন অন্তরঙ্গ ছবি তৈরি করতে ব্যবহার করা যেতে পারে, যা অনলাইন হয়রানি ও শোষণে অবদান রাখে। সিনেটরদের এই অনুসন্ধান এআই-এর সম্ভাব্য অপব্যবহার এবং এই ঝুঁকিগুলো কমাতে প্রযুক্তি কোম্পানিগুলোর দায়িত্ব সম্পর্কে ক্রমবর্ধমান উদ্বেগকে প্রতিফলিত করে।

সিনেটররা যৌনতাপূর্ণ ডিপফেক সনাক্তকরণ এবং অপসারণের জন্য কোম্পানিগুলোর কৌশল সম্পর্কে বিস্তারিত ব্যাখ্যা চাইছেন, সেইসাথে তারা কীভাবে এই প্রযুক্তি ব্যবহার করে এই ধরনের বিষয়বস্তু তৈরি এবং বিতরণ করা থেকে বিরত রাখছে সে সম্পর্কেও জানতে চেয়েছেন। অনুরোধ করা নথিপত্র সম্ভবত এই সমস্যা সমাধানে জড়িত প্রযুক্তিগত চ্যালেঞ্জ এবং নীতিগত বিবেচনার বিষয়ে অন্তর্দৃষ্টি প্রদান করবে। পরবর্তী পদক্ষেপগুলোতে সম্ভবত কোম্পানিগুলোর সিনেটরদের অনুসন্ধানের জবাব দেওয়া এবং তাদের প্রতিক্রিয়ার ভিত্তিতে আরও তদন্তের মুখোমুখি হওয়া অন্তর্ভুক্ত থাকতে পারে।