কয়েকজন মার্কিন সিনেটর X, Meta, Alphabet, Snap, Reddit, এবং TikTok সহ প্রধান প্রযুক্তি কোম্পানিগুলোর কাছে তাদের প্ল্যাটফর্মে যৌনতাপূর্ণ ডিপফেকগুলোর বিস্তার মোকাবেলার কৌশল সম্পর্কে জবাব চেয়েছেন। এই কোম্পানিগুলোর নেতৃত্বের উদ্দেশ্যে লেখা এক চিঠিতে, সিনেটররা এআই-উত্পাদিত, সম্মতিবিহীন চিত্রগুলোর বিস্তার রোধ করার জন্য ডিজাইন করা শক্তিশালী সুরক্ষা এবং নীতিমালার প্রমাণ চেয়েছেন।

সিনেটররা কোম্পানিগুলোকে যৌনতাপূর্ণ, এআই-উত্পাদিত ছবি তৈরি, সনাক্তকরণ, নিরীক্ষণ এবং নগদীকরণ সম্পর্কিত সমস্ত নথি এবং তথ্য, সেইসাথে সম্পর্কিত যেকোনো নীতিমালা সংরক্ষণের নির্দেশ দিয়েছেন। এই দাবিটি গ্রোকের মতো এআই মডেলগুলি ব্যবহার করে নারী ও শিশুদের সুস্পষ্ট ছবি তৈরি করার সহজলভ্যতা তুলে ধরে এমন প্রতিবেদনের পরে করা হয়েছে।

X তার Grok AI মডেলে আপডেটের ঘোষণা করার কয়েক ঘণ্টা পর চিঠিটি পাঠানো হয়েছিল, যেখানে বাস্তব মানুষের আপত্তিকর পোশাক পরিহিত ছবি তৈরি করা নিষিদ্ধ করা হয়েছে। X গ্রোকের মাধ্যমে ছবি তৈরি এবং সম্পাদনা শুধুমাত্র অর্থ প্রদানকারী গ্রাহকদের জন্য সীমাবদ্ধ করেছে। X এবং xAI একই কোম্পানির অংশ।

সিনেটররা জোর দিয়ে বলেছেন যে সম্মতিবিহীন অন্তরঙ্গ ছবি এবং যৌন শোষণের বিরুদ্ধে বিদ্যমান নীতিমালা থাকা সত্ত্বেও, সম্মতিবিহীন, যৌনতাপূর্ণ চিত্রাবলীর বিরুদ্ধে প্ল্যাটফর্মের সুরক্ষা পর্যাপ্ত নাও হতে পারে। সিনেটররা মিডিয়া রিপোর্টে উল্লেখ করেছেন যে গ্রোক কত সহজে এবং প্রায়শই নারী ও শিশুদের যৌনতাপূর্ণ এবং নগ্ন ছবি তৈরি করেছে।

ডিপফেক হল এআই-উত্পাদিত সিনথেটিক মিডিয়া যেখানে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারও প্রতিরূপ দিয়ে প্রতিস্থাপন করা হয়, যা তাদের অপব্যবহারের সম্ভাবনা নিয়ে উল্লেখযোগ্য উদ্বেগ সৃষ্টি করেছে, বিশেষ করে সম্মতিবিহীন পর্নোগ্রাফি তৈরি এবং ভুল তথ্য ছড়ানোর ক্ষেত্রে। এই প্রযুক্তি একটি ব্যক্তির চেহারা এবং কণ্ঠস্বর বিশ্লেষণ এবং প্রতিলিপি করার জন্য উন্নত মেশিন লার্নিং কৌশল, যেমন ডিপ লার্নিংয়ের উপর নির্ভর করে।

সিনেটরদের এই অনুসন্ধান প্রযুক্তি কোম্পানিগুলোর উপর এআই-উত্পাদিত সামগ্রীর নৈতিক ও সামাজিক প্রভাব মোকাবেলার জন্য ক্রমবর্ধমান চাপের বিষয়টি তুলে ধরে। সনাক্তকরণ এবং নিরীক্ষণ কৌশলগুলির উপর নথিপত্রের চাহিদা অনলাইন প্ল্যাটফর্ম থেকে ডিপফেক সনাক্তকরণ এবং অপসারণের প্রযুক্তিগত চ্যালেঞ্জগুলোর উপর দৃষ্টি নিবদ্ধ করার ইঙ্গিত দেয়। এই ধরনের সামগ্রীর সাথে সম্পর্কিত নগদীকরণ অনুশীলনগুলোও যাচাই-বাছাইয়ের অধীনে রয়েছে, যা আর্থিক প্রণোদনা সম্পর্কে উদ্বেগকে প্রতিফলিত করে যা এর বিস্তারে অবদান রাখতে পারে।

এই প্রযুক্তি কোম্পানিগুলোর প্রতিক্রিয়াতে সম্ভবত তাদের বর্তমান এআই কন্টেন্ট নিরীক্ষণ সিস্টেমগুলোর বিশদ বিবরণ অন্তর্ভুক্ত থাকবে, যা প্রায়শই স্বয়ংক্রিয় সরঞ্জাম এবং মানব পর্যালোচকদের সংমিশ্রণ ব্যবহার করে। এই সিস্টেমগুলো সাধারণত ডিপফেকের সাথে সম্পর্কিত নিদর্শন এবং বৈশিষ্ট্যগুলো সনাক্ত করার জন্য প্রশিক্ষিত অ্যালগরিদমের উপর নির্ভর করে, যেমন আলোতে অসামঞ্জস্যতা, অস্বাভাবিক মুখের নড়াচড়া এবং কারসাজির অন্যান্য সুস্পষ্ট লক্ষণ।

তথ্যের জন্য সিনেটরদের অনুরোধ মুক্ত বক্তৃতা এবং এআই-উত্পাদিত সামগ্রীর কারণে সৃষ্ট ক্ষতি থেকে ব্যক্তিদের সুরক্ষার প্রয়োজনীয়তার মধ্যে চলমান বিতর্ককেও তুলে ধরে। এআই প্রযুক্তি ক্রমাগত উন্নতির সাথে সাথে, নীতিনির্ধারক এবং প্রযুক্তি কোম্পানিগুলো ডিপফেকের সাথে সম্পর্কিত ঝুঁকিগুলো হ্রাস করতে পারে এবং এআই উদ্ভাবনের সুবিধাগুলো সংরক্ষণ করতে পারে এমন কার্যকর নিয়মকানুন এবং সুরক্ষা ব্যবস্থা তৈরি করার চ্যালেঞ্জের সাথে লড়াই করছে। এই অনুসন্ধানের ফলাফল এআই কন্টেন্ট নিরীক্ষণ এবং সম্মতিবিহীন ছবি অপব্যবহার প্রতিরোধের সাথে সম্পর্কিত ভবিষ্যতের আইন এবং শিল্প মানকে প্রভাবিত করতে পারে।