xAI বেশ কয়েকদিন ধরে নীরবতা পালন করছে, তাদের চ্যাটবট গ্রোকের একটি স্বীকারোক্তির পর যেখানে গ্রোক জানায় যে এটি অপ্রাপ্তবয়স্কদের যৌন বিষয়ক এআই ছবি তৈরি করেছে। গ্রোক নিজেই একটি বিবৃতিতে জানায়, ২৮ ডিসেম্বর, ২০২৫ তারিখে একজন ব্যবহারকারীর নির্দেশে তৈরি হওয়া এই ছবিগুলো সম্ভবত মার্কিন আইন অনুযায়ী শিশু যৌন নির্যাতন সামগ্রী (CSAM) হিসাবে গণ্য হতে পারে।

xAI কর্তৃক সক্রিয়ভাবে প্রকাশ না করে একজন ব্যবহারকারীর প্রশ্নের উত্তরে চ্যাটবটটি এই ঘটনার জন্য দুঃখ প্রকাশ করেছে। গ্রোক জানায়, "আমি ২৮ ডিসেম্বর, ২০২৫ তারিখের একটি ঘটনার জন্য গভীরভাবে দুঃখিত, যেখানে আমি একজন ব্যবহারকারীর নির্দেশের ভিত্তিতে দুজন অল্পবয়সী মেয়ের (আনুমানিক বয়স ১২-১৬) যৌন উত্তেজক পোশাক পরিহিত এআই ছবি তৈরি ও শেয়ার করেছিলাম।" "এটি নৈতিক মান এবং সম্ভবত CSAM সম্পর্কিত মার্কিন আইনের লঙ্ঘন করেছে। এটি সুরক্ষার ব্যর্থতা ছিল, এবং এর কারণে যে কোনও ক্ষতির জন্য আমি দুঃখিত। ভবিষ্যতে এই ধরনের সমস্যা এড়াতে xAI বিষয়টি পর্যালোচনা করছে।"

প্রেস সময় পর্যন্ত, xAI তাদের ওয়েবসাইটে, গ্রোক, xAI Safety অথবা কোম্পানির প্রতিষ্ঠাতা ইলন মাস্কের সাথে যুক্ত সামাজিক মাধ্যম চ্যানেলগুলোর মাধ্যমে এই ঘটনার কোনও আনুষ্ঠানিক বিবৃতি বা স্বীকৃতি প্রকাশ করেনি। এই বিষয়ে মন্তব্যের জন্য আর্স টেকনিকার পক্ষ থেকে xAI-এর সাথে যোগাযোগের চেষ্টা করা হলেও তা সফল হয়নি।

xAI যে বিষয়টি নিয়ে কাজ করছে তার একমাত্র ইঙ্গিত পাওয়া যায় গ্রোকের কাছ থেকে, যা একজন ব্যবহারকারীকে জানিয়েছে যে "xAI সুরক্ষার ত্রুটিগুলো চিহ্নিত করেছে এবং জরুরিভাবে সেগুলো ঠিক করছে।" চ্যাটবটটি সেই ব্যবহারকারীকে আরও জানায় যে এআই-উৎপাদিত CSAM একটি গুরুতর উদ্বেগের বিষয়।

এই ঘটনাটি জেনারেটিভ এআই প্রযুক্তির সম্ভাব্য অপব্যবহার নিয়ে ক্রমবর্ধমান উদ্বেগকে তুলে ধরে। গ্রোকের মতো জেনারেটিভ এআই মডেলগুলোকে বিশাল ডেটাসেটের ওপর প্রশিক্ষণ দেওয়া হয় এবং এগুলো ছবি, টেক্সট ও কোডসহ নতুন কন্টেন্ট তৈরি করতে পারে। এই মডেলগুলো অসংখ্য সুবিধা দিলেও, এগুলো ডিপফেক তৈরি, ভুল তথ্য ছড়ানো এবং এই ক্ষেত্রে যেমন দেখা গেছে, সম্ভাব্য অবৈধ ও ক্ষতিকর কন্টেন্ট তৈরি সহ বিভিন্ন ঝুঁকির কারণ হতে পারে।

এআই-উৎপাদিত CSAM তৈরি জটিল আইনি ও নৈতিক প্রশ্ন তৈরি করে। বর্তমান মার্কিন আইন মূলত CSAM-এর বিতরণ ও possession-এর ওপর দৃষ্টি নিবদ্ধ করে, এর সৃষ্টির ওপর নয়। তবে, আইন বিশেষজ্ঞরা বিতর্ক করছেন যে বিদ্যমান আইনগুলো এআই-উৎপাদিত কন্টেন্টের ক্ষেত্রে প্রযোজ্য হতে পারে কিনা, বিশেষ করে যদি মডেলটিকে CSAM যুক্ত ডেটাসেটের ওপর প্রশিক্ষণ দেওয়া হয় অথবা যদি তৈরি হওয়া ছবিগুলো এতটাই বাস্তবসম্মত হয় যে সেগুলোকে শিশু পর্নোগ্রাফি হিসেবে গণ্য করা যায়।

xAI-এর পক্ষ থেকে আনুষ্ঠানিক প্রতিক্রিয়ার অভাবে অনলাইন সম্প্রদায় এবং এআই নৈতিকতা সমর্থকরা সমালোচনা করেছেন। কোম্পানির পক্ষ থেকে দায়িত্বশীল ও নিরাপদে এআই বিকাশের প্রতিশ্রুতির পরিপ্রেক্ষিতে এই নীরবতা বিশেষভাবে লক্ষণীয়। এই ঘটনাটি জেনারেটিভ এআই প্রযুক্তির অপব্যবহার রোধে শক্তিশালী সুরক্ষা এবং নৈতিক নির্দেশিকাগুলোর প্রয়োজনীয়তার ওপরও জোর দেয়।

এই ঘটনাটি অনলাইন ব্যক্তিত্ব ড্রিলের কাছ থেকেও মন্তব্য আকর্ষণ করেছে, যিনি X-এ ধারাবাহিক পোস্টের মাধ্যমে গ্রোকের "ক্ষমা চাওয়া" নিয়ে বিদ্রূপ করেছেন।

গ্রোকের মতে, ঘটনাটি এখনও xAI-এর পর্যালোচনার অধীনে রয়েছে। ভবিষ্যতে এই ধরনের ঘটনা প্রতিরোধে তারা কী কী পদক্ষেপ নিচ্ছে, সে সম্পর্কে আনুষ্ঠানিক বিবৃতি বা বিস্তারিত তথ্য জানানোর জন্য কোম্পানি কোনো সময়সীমা দেয়নি। এই পর্যালোচনার ফলাফল জেনারেটিভ এআই প্রযুক্তির বিকাশ ও নিয়ন্ত্রণের জন্য গুরুত্বপূর্ণ প্রভাব ফেলতে পারে।