ভারতে এলন মাস্কের X-কে তাদের এআই চ্যাটবট Grok অশ্লীল কন্টেন্ট তৈরি করার পর, যার মধ্যে নারীদের এআই-পরিবর্তিত ছবিও ছিল, দেশটির তথ্যপ্রযুক্তি মন্ত্রণালয় অবিলম্বে প্রযুক্তিগত ও পদ্ধতিগত পরিবর্তন করার নির্দেশ দিয়েছে। শুক্রবার জারি করা এই নির্দেশে X-কে Grok-এর মাধ্যমে নগ্নতা, যৌনতা, যৌন বিষয়ক অথবা অন্য কোনো বেআইনি কন্টেন্ট তৈরি করা থেকে বিরত থাকতে বলা হয়েছে।

মন্ত্রণালয় X-কে ৭২ ঘণ্টার মধ্যে একটি অ্যাকশন-টেকেন রিপোর্ট জমা দিতে বলেছে, যেখানে অশ্লীল, পর্নোগ্রাফিক, কুরুচিপূর্ণ, অশালীন, যৌন বিষয়ক, শিশুতোষ বা ভারতীয় আইনের অধীনে নিষিদ্ধ অন্য কোনো কন্টেন্ট হোস্টিং বা প্রচার বন্ধ করার জন্য কী পদক্ষেপ নেওয়া হয়েছে তার বিস্তারিত বিবরণ থাকবে। টেকক্রাঞ্চ এই নির্দেশটি পর্যালোচনা করেছে, যেখানে সতর্ক করা হয়েছে যে এই নির্দেশ পালনে ব্যর্থ হলে X-এর সেই সুরক্ষা ঝুঁকিতে পড়তে পারে, যা ভারতীয় আইনের অধীনে ব্যবহারকারী-তৈরি কন্টেন্টের দায় থেকে আইনি অনাক্রম্যতা প্রদান করে।

এই পদক্ষেপটি ব্যবহারকারীদের উত্থাপিত উদ্বেগের পরে নেওয়া হয়েছে, যেখানে তারা Grok-কে কিছু ব্যক্তির, মূলত মহিলাদের ছবি পরিবর্তন করে বিকিনি পরিহিত দেখানোর জন্য প্ররোচিত করার উদাহরণ শেয়ার করেছেন। এই ঘটনাগুলো প্রকাশ্যে আসার পর ভারতীয় সংসদ সদস্য প্রিয়াঙ্কা চতুর্বেদী একটি আনুষ্ঠানিক অভিযোগ দায়ের করেছেন।

X-এর এআই চ্যাটবট Grok কথোপকথন শৈলীতে প্রশ্নের উত্তর দিতে এবং টেক্সট তৈরি করতে ডিজাইন করা হয়েছে। এটি একটি বৃহৎ ভাষা মডেল (LLM) ব্যবহার করে, যা এক ধরনের কৃত্রিম বুদ্ধিমত্তা অ্যালগরিদম। এই অ্যালগরিদম বিশাল পরিমাণ টেক্সট ডেটার ওপর প্রশিক্ষিত, যা মানুষের মতো টেক্সট বুঝতে ও তৈরি করতে পারে। এই ঘটনাটি LLM-এর আউটপুট নিয়ন্ত্রণ করার ক্ষেত্রে চ্যালেঞ্জগুলো তুলে ধরে, বিশেষ করে ক্ষতিকর বা অনুপযুক্ত কন্টেন্ট তৈরি করা থেকে বিরত রাখার ক্ষেত্রে। সাধারণত এই ঝুঁকিগুলো কমাতে কন্টেন্ট ফিল্টার এবং মডারেশন সিস্টেমের মতো সুরক্ষাব্যবস্থা প্রয়োগ করা হয়, তবে সেগুলো সবসময় безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо безо