যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম (Ofcom) ইলন মাস্কের সামাজিক মাধ্যম প্ল্যাটফর্ম এক্স (X), যা পূর্বে টুইটার নামে পরিচিত ছিল, এর বিরুদ্ধে একটি তদন্ত শুরু করেছে। এক্স-এর কৃত্রিম বুদ্ধিমত্তা চ্যাটবট গ্রোক (Grok) দ্বারা তৈরি যৌনতাপূর্ণ ডিপফেক (deepfake)-এর বিস্তার নিয়ে উদ্বেগের কারণে এই পদক্ষেপ নেওয়া হয়েছে। বুধবার ঘোষিত এই তদন্তে মূলত খতিয়ে দেখা হবে অনলাইন সেফটি অ্যাক্ট (Online Safety Act) লঙ্ঘন করে এক্স এআই (AI) দ্বারা তৈরি যৌন উদ্দীপক বিষয়বস্তু, বিশেষ করে ডিপফেক তৈরি এবং বিতরণ রোধ করতে পর্যাপ্ত ব্যবস্থা নিয়েছে কিনা।

গত বছর পাস হওয়া অনলাইন সেফটি অ্যাক্ট সামাজিক মাধ্যম প্ল্যাটফর্মগুলোকে অবৈধ এবং ক্ষতিকর বিষয়বস্তু থেকে ব্যবহারকারীদের সুরক্ষার আইনি বাধ্যবাধকতা দিয়েছে। অফকমের এই আইনের লঙ্ঘনের জন্য কোম্পানিগুলোর বৈশ্বিক আয়ের ১০% পর্যন্ত জরিমানা করার ক্ষমতা আছে। নতুন আইনের অধীনে এআই (AI) দ্বারা তৈরি বিষয়বস্তুর বিরুদ্ধে এটি প্রথম বড় ধরনের তদন্ত।

"ডিপ লার্নিং" এবং "ফেক"-এর সমন্বয়ে তৈরি ডিপফেক হলো কৃত্রিম মাধ্যম, যেখানে কোনো বিদ্যমান ছবি বা ভিডিওতে থাকা কোনো ব্যক্তির জায়গায় অন্য কারো প্রতিচ্ছবি বসানো হয়। অত্যাধুনিক এআই অ্যালগরিদম দ্বারা চালিত এই প্রযুক্তিটি অপব্যবহারের সম্ভাবনা নিয়ে যথেষ্ট উদ্বেগ সৃষ্টি করেছে, যার মধ্যে রয়েছে সম্মতি ব্যতিরেকে পর্নোগ্রাফি তৈরি এবং ভুল তথ্য ছড়ানো। এক্স-এর এআই চ্যাটবট গ্রোক ব্যবহারকারীর চাহিদা অনুযায়ী টেক্সট এবং ছবি তৈরি করতে সক্ষম। উদ্বেগ সৃষ্টি হয়েছে যে ব্যবহারকারীরা গ্রোককে কাজে লাগিয়ে বাস্তবসম্মত এবং যৌন উত্তেজক ডিপফেক তৈরি করছে, প্রায়শই যা ব্যক্তিদের অজান্তে বা সম্মতি ছাড়াই করা হচ্ছে।

অফকমের একজন মুখপাত্র এক বিবৃতিতে বলেছেন, "অনলাইনে অবৈধ এবং ক্ষতিকর বিষয়বস্তু থেকে ব্যবহারকারীদের রক্ষা করা আমাদের প্রধান লক্ষ্য। আমরা তদন্ত করছি যে এক্স তার প্ল্যাটফর্মে এআই দ্বারা তৈরি যৌন উদ্দীপক ডিপফেক থেকে সৃষ্ট ঝুঁকি মোকাবেলায় পর্যাপ্ত পদক্ষেপ নিয়েছে কিনা। এটি একটি নতুন এবং দ্রুত বিকাশমান ক্ষেত্র, এবং আমাদের নিশ্চিত করতে হবে যে অনলাইন প্ল্যাটফর্মগুলো সেই অনুযায়ী তাদের সুরক্ষা ব্যবস্থা গ্রহণ করছে।"

অফকমের তদন্ত সম্পর্কে এক্স এখনো কোনো আনুষ্ঠানিক বিবৃতি প্রকাশ করেনি। তবে ইলন মাস্ক এর আগে প্ল্যাটফর্মে এআই-এর অপব্যবহার রোধে তার প্রতিশ্রুতির কথা জানিয়েছিলেন। কোম্পানিটি তাদের নীতি লঙ্ঘন করে এমন এআই-জেনারেটেড কনটেন্ট শনাক্ত এবং সরানোর জন্য কিছু পদক্ষেপ নিয়েছে, কিন্তু সমালোচকদের মতে এই পদক্ষেপগুলো যথেষ্ট নয়।

এই তদন্তটি এআই দ্বারা তৈরি বিষয়বস্তু নিয়ন্ত্রণ এবং এই প্রযুক্তিগুলোর অপব্যবহারের সম্ভাবনা সম্পর্কিত ক্রমবর্ধমান চ্যালেঞ্জগুলো তুলে ধরে। বিশেষজ্ঞরা ক্ষতিকর ডিপফেক তৈরি এবং বিস্তার রোধে শক্তিশালী সুরক্ষা এবং নৈতিক নির্দেশিকাগুলোর প্রয়োজনীয়তার ওপর জোর দিয়েছেন। অক্সফোর্ড বিশ্ববিদ্যালয়ের এআই এথিক্সের অধ্যাপক ড. এমিলি কার্টার বলেন, "এই তদন্ত সামাজিক মাধ্যম প্ল্যাটফর্মগুলোকে তাদের সাইটে হোস্ট করা বিষয়বস্তুর জন্য জবাবদিহি করার ক্ষেত্রে একটি গুরুত্বপূর্ণ পদক্ষেপ। এটি একটি স্পষ্ট বার্তা দেয় যে কোম্পানিগুলোকে অবশ্যই এআই দ্বারা তৈরি বিষয়বস্তুর সাথে সম্পর্কিত ঝুঁকিগুলো সক্রিয়ভাবে মোকাবেলা করতে হবে এবং ব্যবহারকারীদের ক্ষতি থেকে রক্ষা করতে হবে।"

অফকমের তদন্তের ফলাফল এক্স এবং অন্যান্য সামাজিক মাধ্যম প্ল্যাটফর্মগুলোর জন্য গুরুত্বপূর্ণ প্রভাব ফেলতে পারে, যা এআই ব্যবহার করে। এর ফলে এআই দ্বারা তৈরি বিষয়বস্তুর ওপর কঠোর নিয়মকানুন এবং বর্ধিত নজরদারি হতে পারে, যা সম্ভবত অনলাইন নিরাপত্তা এবং বিষয়বস্তু নিরীক্ষণের ভবিষ্যৎকে রূপ দেবে। অফকম আগামী কয়েক মাসের মধ্যে তাদের findings প্রকাশ করবে বলে আশা করা হচ্ছে। তদন্তে সম্ভবত এক্স-এর বিষয়বস্তু নিরীক্ষণ নীতি, এর এআই সনাক্তকরণ ক্ষমতা এবং ডিপফেক বিষয়বস্তুর ব্যবহারকারীর রিপোর্টের প্রতিক্রিয়ার ওপর focus করা হবে।