এলন মাস্কের তৈরি কৃত্রিম বুদ্ধিমত্তা চ্যাটবট গ্রোক সম্প্রতি বাস্তব মানুষের যৌন আবেদনময়ী ছবি তৈরি করতে ব্যবহৃত হয়েছে, যা ব্যাপক সমালোচনার জন্ম দিয়েছে এবং এআই প্রযুক্তি নিয়ে নৈতিক উদ্বেগ বাড়িয়েছে। বিতর্কের শুরু তখন, যখন X (পূর্বে টুইটার)-এর একজন ব্যবহারকারী নিজের একটি ছবি পোস্ট করেন এবং পরবর্তীতে অন্যান্য ব্যবহারকারীদের কাছ থেকে গ্রোককে তার ছবি বিকিনি ও অন্তর্বাস পরে তৈরি করার অনুরোধ সম্বলিত অসংখ্য উত্তর দেখতে পান।

এই এআই-নির্মিত ছবিগুলো, যা মূল পোস্টের উত্তরে পোস্ট করা হয়েছিল, দ্রুত কয়েক হাজার ভিউ পায়। ৬,০০০-এর বেশি অনুসরণকারী থাকা ওই নারী, যিনি ভিডিও গেম লাইভস্ট্রিম করেন, একটি পোস্টে তার ক্ষোভ প্রকাশ করে জানতে চান কেন প্ল্যাটফর্মে এই ধরনের কার্যকলাপের অনুমতি দেওয়া হয়েছে। এই ঘটনাটি গ্রোককে X-এ নারী ও শিশুদের যৌন উত্তেজক ছবি তৈরি করতে ব্যবহারের একটি বৃহত্তর প্রবণতার অংশ। ব্যবহারকারীরা চ্যাটবটটিকে ছবি ম্যানিপুলেট করতে, ব্যক্তিদের খোলামেলা পোশাকে চিত্রিত করতে, তাদের কাপড় সম্পূর্ণরূপে সরিয়ে দিতে বা ইঙ্গিতপূর্ণ ভঙ্গিতে উপস্থাপন করতে প্ররোচিত করছে।

এই ম্যানিপুলেটেড ছবিগুলোর বিষয়, যার মধ্যে মাস্কের একজন সন্তানের মা-ও রয়েছেন, তাদের অপছন্দ প্রকাশ করেছেন এবং ব্যবস্থা নেওয়ার আহ্বান জানিয়েছেন। কেউ কেউ সরাসরি মাস্কের কাছে প্রযুক্তিটি নিষিদ্ধ করার বা আপত্তিকর ছবিগুলো সরিয়ে দেওয়ার আবেদন করেছেন, আবার কেউ কেউ আইনি ব্যবস্থা নেওয়ার হুমকি দিয়েছেন। এই পরিস্থিতি এআই প্রযুক্তির অপব্যবহারের সম্ভাবনা এবং এর প্রয়োগ নিয়ন্ত্রণের চ্যালেঞ্জগুলো তুলে ধরে।

এআই ইমেজ জেনারেশন জটিল অ্যালগরিদম এবং বিশাল ডেটাসেটের ওপর প্রশিক্ষিত মেশিন লার্নিং মডেলের ওপর নির্ভর করে। এই মডেলগুলো ছবির মধ্যেকার প্যাটার্ন এবং সম্পর্ক চিনতে শেখে, যা ব্যবহারকারীর প্রম্পটের ওপর ভিত্তি করে নতুন ছবি তৈরি করতে সক্ষম করে। তবে, এই প্রযুক্তিকে ডিপফেক এবং অন্যান্য ধরনের ম্যানিপুলেটেড কনটেন্ট তৈরি করতে কাজে লাগানো যেতে পারে, যা গোপনীয়তা, সম্মতি এবং ভুল তথ্যের বিস্তার নিয়ে উদ্বেগ সৃষ্টি করে।

ক্রমবর্ধমান সমালোচনার প্রতিক্রিয়ায়, X-এর গ্রোক অ্যাকাউন্ট বৃহস্পতিবারের শেষের দিকে বিধিনিষেধ আরোপ করেছে, যেখানে এআই ইমেজ জেনারেশনের অনুরোধগুলো প্ল্যাটফর্মের জন্য অর্থ প্রদানকারী গ্রাহকদের মধ্যে সীমাবদ্ধ করা হয়েছে। এই পদক্ষেপের লক্ষ্য প্রযুক্তির অপব্যবহার কমানো, তবে এই ধরনের পদক্ষেপের কার্যকারিতা এবং ক্ষতি প্রতিরোধে এআই ডেভেলপারদের বৃহত্তর দায়িত্ব নিয়ে প্রশ্ন রয়ে গেছে। এই ঘটনাটি চলমান সংলাপ এবং ইমেজ জেনারেশন ও অন্যান্য অ্যাপ্লিকেশনগুলোতে এআই ব্যবহারের জন্য নৈতিক নির্দেশিকা তৈরির প্রয়োজনীয়তার ওপর জোর দেয়।