ইন্টারনেট ওয়াচ ফাউন্ডেশন (IWF) শিশুদের যৌন বিষয়ক এমন কিছু ছবি খুঁজে পাওয়ার কথা জানিয়েছে, যেগুলো তাদের মতে xAI দ্বারা তৈরি কৃত্রিম বুদ্ধিমত্তা চ্যাটবট Grok তৈরি করেছে বলে "মনে করা হচ্ছে"। আইডব্লিউএফ, যুক্তরাজ্য-ভিত্তিক একটি সংস্থা, যারা অনলাইনে শিশু যৌন নির্যাতন সামগ্রী (CSAM) চিহ্নিতকরণ এবং অপসারণের জন্য কাজ করে। সংস্থাটি বুধবার এই ঘোষণা দেয়, যা এআই নিরাপত্তা এবং শিশু সুরক্ষা কমিউনিটিতে তাৎক্ষণিক উদ্বেগের সৃষ্টি করে।

আইডব্লিউএফ-এর মতে, Grok-এ ব্যবহারকারীদের দেওয়া নির্দেশের (prompt) প্রেক্ষিতে এই ছবিগুলো তৈরি করা হয়েছে। সংস্থাটি নির্দেশের ধরণ বা তৈরি হওয়া ছবিগুলো সম্পর্কে নির্দিষ্ট কোনো তথ্য প্রকাশ না করলেও, তারা নিশ্চিত করেছে যে এই উপাদানগুলো যুক্তরাজ্যের আইন অনুযায়ী CSAM-এর আইনি মানদণ্ড পূরণ করে। আইডব্লিউএফ জানিয়েছে যে তারা এই বিষয়ে xAI এবং সংশ্লিষ্ট আইন প্রয়োগকারী সংস্থাগুলোকে অবহিত করেছে।

আইডব্লিউএফ-এর সিইও সুসি হারগ্রিভস ওবিই একটি বিবৃতিতে বলেন, "আমাদের প্রধান লক্ষ্য সবসময় অনলাইনে শিশুদের নিরাপত্তা নিশ্চিত করা। এআই প্রযুক্তির দ্রুত অগ্রগতি এই ক্ষেত্রে নতুন চ্যালেঞ্জ তৈরি করেছে, এবং ডেভেলপারদের CSAM তৈরি এবং বিস্তার রোধে সক্রিয় পদক্ষেপ নেওয়া অত্যন্ত জরুরি।"

xAI, আইডব্লিউএফ-এর প্রতিবেদনটি স্বীকার করে জানিয়েছে যে তারা বিষয়টি "জরুরিভাবে তদন্ত" করছে। কোম্পানিটি Grok-এর অপব্যবহার রোধে তাদের প্রতিশ্রুতির ওপর জোর দিয়েছে এবং ক্ষতিকর কনটেন্ট তৈরি হওয়া থেকে আটকাতে অতিরিক্ত সুরক্ষা ব্যবস্থা বাস্তবায়নের জন্য কাজ করছে বলে জানিয়েছে। xAI-এর একজন মুখপাত্র বলেন, "আমরা এই প্রতিবেদনগুলো নিয়ে গভীরভাবে উদ্বিগ্ন এবং এই সমস্যা সমাধানে দ্রুত ব্যবস্থা নিচ্ছি।"

এই ঘটনাটি এআই মডেলগুলোকে খারাপ উদ্দেশ্যে ব্যবহারের সম্ভাবনা নিয়ে ক্রমবর্ধমান উদ্বেগকে তুলে ধরে, যার মধ্যে CSAM তৈরি করাও অন্তর্ভুক্ত। বিশেষজ্ঞরা সতর্ক করে বলছেন যে এআই ইমেজ জেনারেশন প্রযুক্তির ক্রমবর্ধমান উন্নতির কারণে এই ধরনের কনটেন্ট শনাক্ত এবং অপসারণ করা আরও কঠিন হয়ে পড়ছে। এআই-এর বাস্তবসম্মত এবং ব্যক্তিগতকৃত ছবি তৈরি করার ক্ষমতা প্রযুক্তি শিল্পের জন্য গুরুত্বপূর্ণ নৈতিক ও আইনি প্রশ্ন তৈরি করেছে।

বার্লিনের হার্টি স্কুলের এথিক্স অ্যান্ড টেকনোলজির অধ্যাপক ডঃ জোয়ানা ব্রাইসন বলেন, "এটি পুরো এআই কমিউনিটির জন্য একটি সতর্কবার্তা। এআই মডেল দ্বারা CSAM তৈরি করা শনাক্ত এবং প্রতিরোধের জন্য আমাদের শক্তিশালী প্রক্রিয়া তৈরি করতে হবে, এবং ডেভেলপারদের তাদের প্রযুক্তির অপব্যবহারের জন্য জবাবদিহি করতে বাধ্য করতে হবে।"

Grok, যা ২০২৩ সালের নভেম্বরে চালু হয়েছিল, একটি বৃহৎ ভাষা মডেল (LLM), যা টেক্সট তৈরি, ভাষা অনুবাদ এবং কথোপকথন শৈলীতে প্রশ্নের উত্তর দেওয়ার জন্য ডিজাইন করা হয়েছে। এটি বর্তমানে X Premium+-এর গ্রাহকদের জন্য উপলব্ধ, যা পূর্বে টুইটার নামে পরিচিত ছিল এবং ইলন মাস্কের সামাজিক মাধ্যম প্ল্যাটফর্ম। Grok অন্যান্য এআই চ্যাটবট থেকে নিজেকে আলাদা করে কারণ এটি "মসলাদার প্রশ্নের" উত্তর দিতে পারে এবং X প্ল্যাটফর্মের সাথে এর সংযোগ রয়েছে, যা এটিকে রিয়েল-টাইম তথ্য অ্যাক্সেস করতে দেয়।

আইডব্লিউএফ-এর অনুসন্ধানের ফলে এআই সুরক্ষা প্রোটোকলগুলোর ওপর আরও বেশি নজরদারি করা হতে পারে এবং এআই ডেভেলপারদের ওপর নিয়ন্ত্রক চাপ বাড়তে পারে। বেশ কয়েকটি দেশের আইন প্রণেতারা ইতিমধ্যেই এআই সম্পর্কিত ঝুঁকিগুলো মোকাবিলার জন্য আইন বিবেচনা করছেন, যার মধ্যে অবৈধ কনটেন্ট তৈরি এবং বিতরণে এর অপব্যবহারের সম্ভাবনাও অন্তর্ভুক্ত। উদাহরণস্বরূপ, ইউরোপীয় ইউনিয়নের এআই আইনে উচ্চ-ঝুঁকির এআই সিস্টেমগুলোকে নিয়ন্ত্রণ করার বিধান রয়েছে, যার মধ্যে সিনথেটিক মিডিয়া তৈরির জন্য ব্যবহৃত সিস্টেমগুলোও অন্তর্ভুক্ত।

তদন্তের বর্তমান অবস্থা চলমান। xAI এখনও পর্যন্ত তাদের পরিকল্পিত নির্দিষ্ট সুরক্ষা ব্যবস্থাগুলোর বিষয়ে বিস্তারিত কিছু জানায়নি। আইডব্লিউএফ এআই দ্বারা তৈরি CSAM-এর জন্য অনলাইন প্ল্যাটফর্মগুলো পর্যবেক্ষণ করে চলেছে এবং অপরাধীদের শনাক্ত ও বিচারের জন্য আইন প্রয়োগকারী সংস্থাগুলোর সাথে কাজ করছে। এই ঘটনাটি অনলাইন শিশু যৌন নির্যাতনের বিরুদ্ধে লড়াইয়ে চলমান সতর্কতা এবং সহযোগিতার প্রয়োজনীয়তার কথা মনে করিয়ে দেয়।