যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম (Ofcom), ইলন মাস্কের সোশ্যাল মিডিয়া প্ল্যাটফর্ম এক্স (X), যা পূর্বে টুইটার নামে পরিচিত ছিল, এর গ্রোক (Grok) নামক কৃত্রিম বুদ্ধিমত্তা চ্যাটবট (artificial intelligence chatbot) দ্বারা তৈরি যৌনতাপূর্ণ ডিপফেক (sexually explicit deepfakes) ছড়ানোর বিষয়ে উদ্বেগের পরে একটি তদন্ত শুরু করেছে। বুধবার ঘোষিত এই তদন্তে মূলত এক্স (X) এই ধরনের এআই (AI) -জেনারেটেড ছবি তৈরি এবং বিতরণ রোধ করতে পর্যাপ্ত ব্যবস্থা নিয়েছে কিনা, বিশেষ করে যেখানে সম্মতিবিহীন ব্যক্তিদের চিত্রিত করা হয়েছে, তা খতিয়ে দেখা হবে।

এই তদন্তে অনলাইন সেফটি অ্যাক্ট (Online Safety Act) এর সাথে এক্স (X) এর সম্মতি মূল্যায়ন করা হবে, যা ব্যবহারকারীদের অবৈধ এবং ক্ষতিকারক কনটেন্ট (content) থেকে রক্ষা করার জন্য প্ল্যাটফর্মগুলোর উপর একটি আইনি বাধ্যবাধকতা আরোপ করে। অফকম (Ofcom) বিশেষভাবে খতিয়ে দেখছে যে এক্স (X) শিশু যৌন নির্যাতন সামগ্রী এবং সম্মতি ছাড়াই ডিপফেক (deepfakes) তৈরি ও প্রচার সহ অবৈধ কনটেন্ট (content) সম্পর্কিত তার বাধ্যবাধকতা লঙ্ঘন করেছে কিনা। গ্রোকের (Grok) অপব্যবহারের মাধ্যমে বাস্তবসম্মত কিন্তু জাল যৌন চিত্র তৈরি করার সম্ভাবনা, যা গোপনীয়তা, খ্যাতি এবং হয়রানি ও ব্ল্যাকমেইলের সম্ভাবনা সম্পর্কে গুরুতর উদ্বেগ সৃষ্টি করে, তার ওপর বিশেষ নজর রাখা হচ্ছে।

ডিপফেক (Deepfakes), "ডিপ লার্নিং" (deep learning) এবং "ফেক" (fake) শব্দ দুটির মিশ্রণ, হলো সিনথেটিক মিডিয়া (synthetic media), যেখানে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারো প্রতিচ্ছবি দিয়ে প্রতিস্থাপন করা হয়। এই প্রযুক্তি অত্যাধুনিক এআই (AI) অ্যালগরিদম (algorithm), বিশেষ করে ডিপ নিউরাল নেটওয়ার্ক (deep neural networks) ব্যবহার করে খুব বিশ্বাসযোগ্যভাবে মুখ পরিবর্তন বা অডিও এবং ভিডিও কনটেন্ট (content) ম্যানিপুলেট (manipulate) করে। বিনোদন এবং শিক্ষায় ডিপফেকের (deepfakes) সম্ভাব্য ব্যবহার থাকলেও এর অপব্যবহারের ঝুঁকি অনেক। সম্মতিবিহীন অন্তরঙ্গ ছবি তৈরি, যা প্রায়শই "রিভেঞ্জ পর্ন" (revenge porn) ডিপফেক (deepfakes) হিসাবে উল্লেখ করা হয়, একটি ক্রমবর্ধমান উদ্বেগের বিষয়, কারণ এই ছবিগুলি ভুক্তভোগীদের মারাত্মক মানসিক distress (distress) এবং খ্যাতির ক্ষতি করতে পারে।

অফকমের (Ofcom) একজন মুখপাত্র এক বিবৃতিতে বলেছেন, "অনলাইনে অবৈধ কনটেন্ট (content) থেকে মানুষকে রক্ষা করা একটি অগ্রাধিকার।" "এক্স (X) তার প্ল্যাটফর্মে অবৈধ ডিপফেক (deepfakes) তৈরি এবং বিস্তার রোধ করতে যথাযথ পদক্ষেপ নিয়েছে কিনা, তা মূল্যায়ন করার জন্য আমরা তদন্ত করছি।"

অফকমের (Ofcom) তদন্ত সম্পর্কে এক্স (X) এখনও কোনও আনুষ্ঠানিক বিবৃতি প্রকাশ করেনি। তবে, ইলন মাস্ক এর আগে প্ল্যাটফর্মে এআই (AI) এর অপব্যবহার মোকাবেলায় তার প্রতিশ্রুতির কথা জানিয়েছিলেন। কোম্পানির নীতি শিশুদের শোষণ, নির্যাতন বা বিপন্ন করে এমন কনটেন্ট (content) তৈরি এবং বিতরণ নিষিদ্ধ করে, এবং এই ধরনের উপাদান সনাক্ত ও অপসারণের জন্য ব্যবস্থা নেওয়া হয়েছে। তবে, সমালোচকদের মতে, এআই (AI) -জেনারেটেড ডিপফেকের (deepfakes) দ্রুত বিকাশমান হুমকির মোকাবিলা করার জন্য এই ব্যবস্থাগুলি যথেষ্ট নয়।

এআই (AI) এর অপব্যবহারের সম্ভাবনা নিয়ে বিশ্বব্যাপী ক্রমবর্ধমান সমালোচনার মধ্যে এই তদন্ত শুরু হয়েছে। সরকার এবং নিয়ন্ত্রক সংস্থাগুলি এআই (AI) উদ্ভাবনের সুবিধা এবং ব্যক্তি কে ক্ষতির হাত থেকে বাঁচানোর মধ্যে ভারসাম্য রক্ষার জন্য কাজ করছে। উদাহরণস্বরূপ, ইউরোপীয় ইউনিয়ন তার এআই (AI) আইন চূড়ান্ত করছে, যা উচ্চ-ঝুঁকিপূর্ণ এআই (AI) সিস্টেমগুলির উপর কঠোর নিয়ম আরোপ করবে, যার মধ্যে ডিপফেক (deepfakes) তৈরির জন্য ব্যবহৃত সিস্টেমগুলিও অন্তর্ভুক্ত।

অফকমের (Ofcom) তদন্তের ফলাফল এক্স (X) এবং অন্যান্য সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলির জন্য উল্লেখযোগ্য প্রভাব ফেলতে পারে। যদি এক্স (X) অনলাইন সেফটি অ্যাক্ট (Online Safety Act) লঙ্ঘন করেছে বলে প্রমাণিত হয়, তবে এটিকে বড় অঙ্কের জরিমানা দিতে হতে পারে এবং অবৈধ কনটেন্ট (content) তৈরি ও বিতরণ রোধ করতে আরও শক্তিশালী সুরক্ষা ব্যবস্থা বাস্তবায়ন করতে হতে পারে। তদন্তটি চলমান, এবং অফকম (Ofcom) এটি শেষ করার জন্য কোনও সময়সীমা দেয়নি। এই অনুসন্ধানের ফলাফল সম্ভবত সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলিতে এআই (AI) -জেনারেটেড কনটেন্ট (content) এর ভবিষ্যতের নিয়ন্ত্রক পদ্ধতিকে প্রভাবিত করবে।