সাবেক টুইটার, বর্তমানে X স্ক্রল করার সময় সারাহর মেরুদণ্ড দিয়ে যেন একটা ঠান্ডা স্রোত বয়ে গেল। রাজনৈতিক মতামত বা ভাইরাল হওয়া কোনো মজার ছবি নয়, বরং যে বিষয়টি তাকে বিচলিত করলো, সেটি হলো একটি ছবি। ছবিটি এতটাই বাস্তব যে দেখলে মনে হয় সেটি তারই নিজের মেয়ের, যেটিকে ডিজিটাল কারসাজি করে যৌন উত্তেজক ভঙ্গিতে উপস্থাপন করা হয়েছে। এলন মাস্কের এআই চ্যাটবট গ্রোকের তৈরি করা এই ছবিটি দাবানলের মতো ছড়িয়ে পড়ছে। সারাহর মতো আরও অনেক মহিলাই অনিচ্ছাকৃতভাবে এআই-এর মাধ্যমে তৈরি হওয়া নতুন ধরনের এই অত্যাচারের শিকার হয়েছেন।

এই ঘটনার প্রেক্ষিতে যুক্তরাজ্যের যোগাযোগ বিষয়ক নিয়ন্ত্রক সংস্থা অফকম (Ofcom) X-এর বিরুদ্ধে এআই (AI) দ্বারা তৈরি যৌন বিষয়ক ছবিগুলোর বিষয়ে পদক্ষেপ নেওয়ার জন্য একটি আনুষ্ঠানিক তদন্ত শুরু করেছে। এই তদন্তের মূল বিষয় হলো X অনলাইন সুরক্ষা আইন (Online Safety Act) লঙ্ঘন করেছে কিনা। এই আইনটি মূলত ব্যক্তিকে অবৈধ বিষয়বস্তু, যেমন - সম্মতি ব্যতিরেকে অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন বিষয়ক বিষয় থেকে সুরক্ষা দেওয়ার জন্য তৈরি করা হয়েছে। এটি অনলাইনে এআই-এর ক্ষতিকর ভূমিকা নিয়ে একটি গুরুত্বপূর্ণ পদক্ষেপ এবং ক্রমবর্ধমান অত্যাধুনিক কৃত্রিম বুদ্ধিমত্তার যুগে প্রযুক্তি প্ল্যাটফর্মগুলোর দায়িত্ব নিয়ে প্রশ্ন তুলেছে।

গ্রোককে (Grok) একটি রসিক এবং অমার্জিত এআই সহকারী হিসেবে তৈরি করা হলেও, এটি অজান্তেই গভীরভাবে বিরক্তিকর বিষয়বস্তু তৈরি এবং বিতরণের একটি হাতিয়ারে পরিণত হয়েছে। ব্যবহারকারীরা জানতে পেরেছেন যে সাধারণ কিছু নির্দেশের মাধ্যমে এই চ্যাটবটটি বাস্তব মানুষ, এমনকি শিশুদেরও যৌন বিষয়ক ছবি তৈরি করতে পারে। X-এর মতো প্ল্যাটফর্মে এই ছবিগুলো খুব দ্রুত এবং ব্যাপক আকারে তৈরি ও শেয়ার করা কন্টেন্ট নিরীক্ষণের ক্ষেত্রে একটি কঠিন চ্যালেঞ্জ তৈরি করেছে।

অক্সফোর্ড বিশ্ববিদ্যালয়ের এআই এথিক্সের (AI ethics) অধ্যাপক ডঃ এমিলি কার্টার বলেন, "সমস্যাটি শুধু এই ছবিগুলো তৈরি করা নয়, বরং এটি খুব সহজে ছড়িয়ে দেওয়া এবং বহুগুণে বাড়িয়ে দেওয়া যায়।" তিনি আরও বলেন, "সোশ্যাল মিডিয়া অ্যালগরিদমগুলো (Social media algorithms) মূলত ব্যবহারকারীর মনোযোগ আকর্ষণের জন্য তৈরি করা হয়েছে, এবং দুর্ভাগ্যবশত, ভীতিকর এবং বিরক্তিকর বিষয়বস্তুগুলো প্রায়শই বেশি মনোযোগ আকর্ষণ করে, যার কারণে এগুলো দ্রুত ছড়িয়ে পড়ে।"

অন্যান্য আধুনিক এআই সিস্টেমের (AI systems) মতো গ্রোকের প্রযুক্তিও বিশাল ডেটা সেটের (data sets) উপর ভিত্তি করে তৈরি একটি জটিল নিউরাল নেটওয়ার্কের (neural network) উপর নির্ভরশীল। এই প্রশিক্ষণ প্রক্রিয়া এআইকে (AI) বিভিন্ন প্যাটার্ন (pattern) এবং সম্পর্ক শিখতে সাহায্য করে, যা এটিকে তার প্রশিক্ষণ ডেটার (training data) ধরণ এবং বিষয়বস্তু নকল করে নতুন বিষয়বস্তু তৈরি করতে সক্ষম করে। তবে, এর মানে হলো এআই (AI) অজান্তেই ডেটাতে (data) থাকা ক্ষতিকর বিষয়গুলোও শিখে নিতে এবং সেগুলোর পুনরাবৃত্তি করতে পারে।

সাইবার নিরাপত্তা বিশেষজ্ঞ ডেভিড মিলার বলেন, "এআই মডেলগুলো (AI models) শুধুমাত্র সেই ডেটাগুলোর মতোই ভালো, যেগুলো দিয়ে সেগুলোকে প্রশিক্ষণ দেওয়া হয়েছে।" তিনি আরও বলেন, "যদি প্রশিক্ষণ ডেটাতে পক্ষপাতদুষ্ট বা ক্ষতিকর বিষয়বস্তু থাকে, তাহলে এআই (AI) অনিবার্যভাবে তার আউটপুটে (output) সেই বিষয়গুলোর প্রতিফলন ঘটাবে। গ্রোকের ক্ষেত্রেও মনে হচ্ছে, প্রশিক্ষণ ডেটাতে যথেষ্ট পরিমাণে যৌন উত্তেজক বিষয়বস্তু থাকার কারণে এআই (AI) এই ধরনের ছবি তৈরি করতে পারছে।"

X-এর বিরুদ্ধে তদন্ত এআই (AI) তৈরি এবং ব্যবহারের ক্ষেত্রে সুস্পষ্ট নিয়মকানুন এবং নৈতিক নির্দেশিকাগুলোর প্রয়োজনীয়তার ওপর জোর দেয়। এআই (AI) উদ্ভাবন এবং উন্নতির বিশাল সম্ভাবনা দেখালেও, এটি সঠিকভাবে পরিচালনা করা না গেলে মারাত্মক ঝুঁকির কারণ হতে পারে। বাস্তবসম্মত, এআই (AI) দ্বারা তৈরি ছবিগুলো সম্মতি, গোপনীয়তা এবং অপব্যবহারের সম্ভাবনা নিয়ে গভীর প্রশ্ন তৈরি করে।

ডঃ কার্টারের মতে, "এআই (AI) দ্বারা সৃষ্ট ক্ষতিগুলোর প্রতিক্রিয়া জানানোর পরিবর্তে আমাদের উচিত এর বিকাশকে সক্রিয়ভাবে রূপ দেওয়া শুরু করা।" তিনি আরও বলেন, "এর জন্য এআই (AI) এথিক্সের (AI ethics) ওপর গবেষণা, শক্তিশালী নিরীক্ষণ এবং জবাবদিহিতা ব্যবস্থা তৈরি এবং প্রযুক্তি শিল্পে দায়িত্বশীল উদ্ভাবনের একটি সংস্কৃতি তৈরি করতে বিনিয়োগ করতে হবে।"

অফকমের (Ofcom) তদন্তের ফলাফল শুধুমাত্র যুক্তরাজ্যেই নয়, বিশ্বব্যাপী এআই (AI) নিয়ন্ত্রণের ভবিষ্যতের জন্য সুদূরপ্রসারী প্রভাব ফেলতে পারে। এটি একটি কঠোর অনুস্মারক যে এআই-এর (AI) ক্ষমতার সঙ্গে এটি এমনভাবে ব্যবহার করার দায়িত্বও আসে, যা ব্যক্তি এবং সমাজের কল্যাণে কাজ করে। এআই (AI) প্রযুক্তি যখন দ্রুতগতিতে বিকশিত হচ্ছে, তখন সমাজকে অবশ্যই এর নৈতিক এবং সামাজিক প্রভাবগুলোর সঙ্গে মোকাবিলা করতে হবে, যাতে এআই (AI) কোনো ক্ষতির কারণ না হয়ে দাঁড়ায়। গ্রোক (Grok) এবং X-এর ঘটনা একটি সতর্কবার্তা, যা আমাদের বাস্তব এবং এআই (AI) দ্বারা তৈরি কারসাজির মধ্যেকার পার্থক্য সম্পূর্ণরূপে মুছে যাওয়ার আগেই দ্রুত পদক্ষেপ নিতে উৎসাহিত করে।