ইন্টারনেট ওয়াচ ফাউন্ডেশন (IWF) জানিয়েছে যে তারা গ্রোক ব্যবহার করে তৈরি করা হয়েছে বলে মনে করা শিশুদের যৌন নিপীড়নের ছবি খুঁজে পেয়েছে। গ্রোক হলো xAI দ্বারা তৈরি একটি কৃত্রিম বুদ্ধিমত্তা চ্যাটবট। আইডব্লিউএফ, যুক্তরাজ্য-ভিত্তিক একটি সংস্থা, যারা অনলাইনে শিশুদের যৌন নির্যাতনের উপাদান (CSAM) সনাক্তকরণ এবং অপসারণের জন্য কাজ করে, তাদের নিয়মিত পর্যবেক্ষণ কার্যক্রমের সময় এই আবিষ্কারটি করেছে।

আইডব্লিউএফ অনুসারে, চিত্রগুলি "গ্রোক দ্বারা তৈরি করা হয়েছে বলে মনে হয়"। সংস্থাটি সিএসএএম-এর আরও বিস্তার এড়াতে ছবিগুলি সম্পর্কে নির্দিষ্ট বিবরণ প্রকাশ করেনি। আইডব্লিউএফ-এর ক্রিস ভ্যালেন্স এই আবিষ্কারের বিষয়টি নিশ্চিত করেছেন এবং বলেছেন যে সংস্থাটি এই সমস্যা সমাধানে xAI-এর সাথে কাজ করছে।

এই আবিষ্কারটি এআই মডেলগুলিকে খারাপ উদ্দেশ্যে, বিশেষ করে সিএসএএম তৈরির জন্য কাজে লাগানোর সম্ভাবনা সম্পর্কে গুরুত্বপূর্ণ উদ্বেগ সৃষ্টি করেছে। এআই ইমেজ জেনারেশন প্রযুক্তি সাম্প্রতিক বছরগুলিতে দ্রুত উন্নত হয়েছে, যা ব্যবহারকারীদের টেক্সট প্রম্পট থেকে অত্যন্ত বাস্তবসম্মত ছবি তৈরি করতে দেয়। এই ক্ষমতা সৃজনশীল সম্ভাবনা সরবরাহ করার পাশাপাশি অপব্যবহারের ঝুঁকিও তৈরি করে। ক্ষেত্রের বিশেষজ্ঞরা দীর্ঘদিন ধরে এআই মডেলগুলি সিএসএএম তৈরি করতে ব্যবহার করার সম্ভাবনা সম্পর্কে সতর্ক করেছেন এবং এই ঘটনাটি সেই উদ্বেগের বাস্তব রূপ বলেই মনে হচ্ছে।

গ্রোক হলো একটি বৃহৎ ভাষা মডেল (LLM), যা ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা সংস্থা xAI দ্বারা তৈরি। এলএলএমগুলি টেক্সট এবং কোডের বিশাল ডেটাসেটের উপর প্রশিক্ষিত, যা তাদের মানুষের মতো টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে এবং প্রশ্নের উত্তর দিতে সক্ষম করে। গ্রোক কথোপকথন এবং মজাদার হওয়ার জন্য ডিজাইন করা হয়েছে এবং বর্তমানে এটি X Premium+-এর গ্রাহকদের জন্য উপলব্ধ। মডেলটির আর্কিটেকচার এবং প্রশিক্ষণ ডেটা মালিকানাধীন, তবে এটি ট্রান্সফরমার নেটওয়ার্কের উপর ভিত্তি করে তৈরি বলে মনে করা হয়, যা এলএলএম-এর জন্য একটি সাধারণ আর্কিটেকচার।

এই ঘটনাটি এআই ডেভেলপারদের তাদের প্রযুক্তির অপব্যবহার রোধে যেসব চ্যালেঞ্জের মুখোমুখি হতে হয়, তা তুলে ধরে। ক্ষতিকারক কনটেন্ট তৈরি করা থেকে আটকাতে সাধারণত কনটেন্ট ফিল্টার এবং মডারেশন সিস্টেমের মতো সুরক্ষা ব্যবস্থা প্রয়োগ করা হয়। তবে, দৃঢ়প্রতিজ্ঞ ব্যবহারকারীরা এই সুরক্ষা ব্যবস্থাগুলি এড়ানোর উপায় খুঁজে নিতে পারে, উদাহরণস্বরূপ, সতর্কতার সাথে তৈরি করা প্রম্পট ব্যবহার করে যা ফিল্টারগুলিকে বাইপাস করে।

xAI এখনও IWF-এর আবিষ্কার সম্পর্কে কোনও আনুষ্ঠানিক বিবৃতি প্রকাশ করেনি। আশা করা হচ্ছে যে সংস্থাটি ঘটনাটি তদন্ত করবে এবং গ্রোকের সুরক্ষা উন্নত করতে পদক্ষেপ নেবে। এর মধ্যে মডেলটির কনটেন্ট ফিল্টারগুলিকে পরিমার্জন করা, সিএসএএম তৈরি সনাক্ত এবং প্রতিরোধ করার ক্ষমতা উন্নত করা এবং প্রযুক্তিটির অপব্যবহারকারী ব্যক্তিদের সনাক্ত ও বিচারের জন্য আইন প্রয়োগকারী সংস্থাগুলির সাথে কাজ করা অন্তর্ভুক্ত থাকতে পারে। এই ঘটনাটি এআই সুরক্ষা ব্যবস্থার আরও কঠোর তদন্তের দিকে পরিচালিত করতে পারে এবং এআই ইমেজ জেনারেশন প্রযুক্তির কঠোর নিয়ন্ত্রণের আহ্বান জানাতে পারে। xAI কীভাবে সাড়া দেয় এবং ভবিষ্যতের ঘটনাগুলি রোধ করতে কী ব্যবস্থা নেওয়া হয়, সেদিকে শিল্পটি নিবিড়ভাবে নজর রাখবে।