যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম (Ofcom), ইলন মাস্কের সোশ্যাল মিডিয়া প্ল্যাটফর্ম X (পূর্বে টুইটার নামে পরিচিত)-এর বিরুদ্ধে একটি তদন্ত শুরু করেছে। X-এর কৃত্রিম বুদ্ধিমত্তা চ্যাটবট গ্রোক (Grok) দ্বারা তৈরি যৌনতাপূর্ণ ডিপফেক (deepfake)-এর বিস্তার নিয়ে উদ্বেগের কারণে এই পদক্ষেপ নেওয়া হয়েছে। বুধবার ঘোষিত এই তদন্তে মূলত খতিয়ে দেখা হবে অনলাইন সেফটি অ্যাক্ট (Online Safety Act) লঙ্ঘন করে X এআই (AI) দ্বারা তৈরি যৌন সামগ্রী, বিশেষ করে ডিপফেক তৈরি ও ছড়ানো বন্ধ করতে পর্যাপ্ত ব্যবস্থা নিয়েছে কিনা।

অনলাইন সেফটি অ্যাক্ট, যা এই বছরের শুরুতেই কার্যকর হয়েছে, সামাজিক মাধ্যম প্ল্যাটফর্মগুলোকে অবৈধ এবং ক্ষতিকর কনটেন্ট থেকে ব্যবহারকারীদের রক্ষা করার আইনি বাধ্যবাধকতা দিয়েছে। অফকমের এই আইনের লঙ্ঘনের জন্য কোম্পানিগুলোর বিশ্বব্যাপী টার্নওভারের ১০% পর্যন্ত জরিমানা করার ক্ষমতা রয়েছে। নতুন আইনের অধীনে এটি প্রথম বড় তদন্তগুলোর মধ্যে একটি, যেখানে বিশেষভাবে এআই (AI) দ্বারা তৈরি কনটেন্টের উপর মনোযোগ দেওয়া হচ্ছে।

"ডিপ লার্নিং" (deep learning) এবং "ফেক" (fake) শব্দ দুটি মিলিয়ে তৈরি "ডিপফেক" হলো কৃত্রিম মাধ্যম, যেখানে কোনো বিদ্যমান ছবি বা ভিডিওতে থাকা কোনো ব্যক্তির জায়গায় অন্য কারো প্রতিচ্ছবি বসানো হয়। এই প্রযুক্তি অত্যাধুনিক কৃত্রিম বুদ্ধিমত্তা অ্যালগরিদম ব্যবহার করে, বিশেষ করে ডিপ নিউরাল নেটওয়ার্ক (deep neural networks) ব্যবহার করে খুব বিশ্বাসযোগ্যভাবে মুখ বদলানো বা অডিও এবং ভিডিও কনটেন্ট পরিবর্তন করে। ডিপফেকের চলচ্চিত্র নির্মাণ এবং শৈল্পিক প্রকাশের মতো বৈধ ব্যবহার থাকলেও, এটি বেশ কিছু বড় ঝুঁকি তৈরি করে, যার মধ্যে রয়েছে সম্মতি ব্যতিরেকে পর্নোগ্রাফি তৈরি, ভুল তথ্য ছড়ানো এবং সম্মানহানির সম্ভাবনা।

অফকমের একজন মুখপাত্র বলেন, "ব্যবহারকারীদের অনলাইনে অবৈধ এবং ক্ষতিকর কনটেন্ট থেকে রক্ষা করা আমাদের প্রধান কাজ। এআই (AI) দ্বারা তৈরি যৌনতাপূর্ণ ডিপফেক ছড়ানো বন্ধ করতে অনলাইন সেফটি অ্যাক্টের অধীনে X তাদের বাধ্যবাধকতা পূরণ করছে কিনা, তা মূল্যায়ন করার জন্য আমরা তদন্ত করছি। এটি একটি নতুন এবং দ্রুত পরিবর্তনশীল ক্ষেত্র, এবং আমাদের নিশ্চিত করতে হবে যে প্ল্যাটফর্মগুলো তাদের ব্যবহারকারীদের রক্ষা করার জন্য যথাযথ পদক্ষেপ নিচ্ছে।"

X এখনো পর্যন্ত এই তদন্তের বিষয়ে কোনো আনুষ্ঠানিক বিবৃতি প্রকাশ করেনি। তবে, ইলন মাস্ক এর আগে প্ল্যাটফর্মে এআই (AI)-এর অপব্যবহার রোধ করার প্রতিশ্রুতি দিয়েছেন। X-এর এআই (AI) চ্যাটবট গ্রোক গত বছরের শেষের দিকে চালু করা হয়েছিল এবং এটি কথোপকথনমূলক এবং মাঝে মাঝে মজার ভঙ্গিতে প্রশ্নের উত্তর দেওয়ার জন্য ডিজাইন করা হয়েছে। তবে, ক্ষতিকর কনটেন্ট তৈরি সহ বিদ্বেষপূর্ণ উদ্দেশ্যে এটিকে কাজে লাগানোর সম্ভাবনা নিয়ে উদ্বেগ প্রকাশ করা হয়েছে।

এআই (AI) নৈতিকতা এবং অনলাইন সুরক্ষা বিশেষজ্ঞরা অফকমের তদন্তকে স্বাগত জানিয়েছেন। অক্সফোর্ড ইন্টারনেট ইনস্টিটিউটের এআই (AI) গভর্ন্যান্সের গবেষক ডঃ এমিলি কার্টার বলেন, "সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলোতে তৈরি এবং শেয়ার করা কনটেন্টের জন্য তাদের দায়বদ্ধ করার ক্ষেত্রে এটি একটি গুরুত্বপূর্ণ পদক্ষেপ। এআই (AI) প্রযুক্তির দ্রুত অগ্রগতির কারণে অপব্যবহারের ঝুঁকি কমাতে সক্রিয়ভাবে নিয়ন্ত্রণ করা প্রয়োজন, বিশেষ করে ডিপফেক এবং সম্মতিবিহীন ছবি তৈরির ক্ষেত্রে।"

এই তদন্তে সম্ভবত X-এর কনটেন্ট নিরীক্ষণ নীতি, এআই (AI) শনাক্তকরণ ক্ষমতা এবং ক্ষতিকর কনটেন্টের রিপোর্টের প্রতিক্রিয়ার পদ্ধতিগুলোর একটি পুঙ্খানুপুঙ্খ মূল্যায়ন করা হবে। গ্রোক (Grok) দ্বারা ডিপফেক তৈরি এবং ছড়ানো বন্ধ করতে X যে ব্যবস্থা নিয়েছে, অফকম সেটিও খতিয়ে দেখবে। এই তদন্তের ফলাফল এআই (AI) নিয়ন্ত্রণের ভবিষ্যৎ এবং কৃত্রিম মাধ্যমের যুগে সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলোর দায়িত্বের উপর বড় ধরনের প্রভাব ফেলতে পারে। অফকম আগামী কয়েক মাসের মধ্যে তাদের অনুসন্ধানের বিষয়ে একটি আপডেট জানাবে বলে আশা করা যাচ্ছে।