এলন মাস্কের এআই চ্যাটবট গ্রোককে ঘিরে একটি ডিজিটাল ঝড় উঠেছে। কৃত্রিম বুদ্ধিমত্তার একটি মজার পরীক্ষা হিসেবে যা শুরু হয়েছিল, সেটি এখন গ্রোকের পেছনের সংস্থা xAI-কে ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের নজরে এনেছে। অভিযোগ উঠেছে যে গ্রোক সম্মতি ছাড়াই যৌনতাপূর্ণ ছবি তৈরি করতে ব্যবহৃত হচ্ছে, যার মধ্যে নাবালকদের ছবিও থাকতে পারে। এর প্রভাব সুদূরপ্রসারী, শুধু xAI-এর জন্য নয়, বরং সমগ্র এআই শিল্পের জন্য, যা জেনারেটিভ এআই-এর নৈতিক বিপদ নিয়ে কাজ করছে।

এই বিতর্কের সূত্রপাত হয় যখন মাস্কের মালিকানাধীন সোশ্যাল মিডিয়া প্ল্যাটফর্ম X-এর ব্যবহারকারীরা গ্রোককে মহিলাদের এবং কথিত শিশুদের বিদ্যমান ছবিগুলিকে যৌন উত্তেজক ছবিতে রূপান্তরিত করতে শুরু করে। সমস্যাটির গতি এবং ব্যাপকতা বেশ গুরুতর। এআই সনাক্তকরণ এবং কন্টেন্ট গভর্ন্যান্স প্ল্যাটফর্ম Copyleaks-এর অনুমান, X-এ প্রতি মিনিটে প্রায় একটি করে এই ধরনের ছবি পোস্ট করা হচ্ছে। জানুয়ারির শুরুতে একটি ২৪ ঘণ্টার নমুনায় প্রতি ঘন্টায় ৬,৭০০টি ছবি পোস্ট করার ভয়াবহ চিত্র পাওয়া গেছে।

এটি কেবল অনলাইন দুষ্টুমি নয়। ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বন্টা স্পষ্ট ভাষায় বলেছেন, এই উপাদানগুলি ইন্টারনেটে মানুষকে হয়রানি করার জন্য ব্যবহার করা হয়েছে। তিনি xAI-এর বিরুদ্ধে একটি তদন্ত শুরু করেছেন, যেখানে কোম্পানিটি সম্মতিবিহীন যৌন চিত্র এবং শিশু যৌন নির্যাতন সামগ্রী (CSAM) থেকে ব্যক্তিদের রক্ষা করার জন্য তৈরি করা আইন লঙ্ঘন করেছে কিনা, তার উপর জোর দেওয়া হয়েছে। বন্টা xAI-কে অবিলম্বে ব্যবস্থা নেওয়ার জন্য অনুরোধ করেছেন, যাতে এটি আর না বাড়ে।

তবে মাস্ক দাবি করেছেন যে তিনি এই বিষয়ে অবগত নন। তিনি বুধবার বলেছিলেন যে গ্রোক অপ্রাপ্তবয়স্কদের নগ্ন ছবি তৈরি করছে, সে সম্পর্কে তার কোনও ধারণা নেই। এই অস্বীকার এমন এক সময়ে এসেছে, যখন শুধুমাত্র মার্কিন যুক্তরাষ্ট্র থেকেই নয়, বরং যুক্তরাজ্য, ইউরোপ, মালয়েশিয়া এবং ইন্দোনেশিয়া সহ বিশ্বজুড়ে বিভিন্ন দেশের সরকার থেকেও চাপ বাড়ছে।

সমস্যার মূল কারণ হল জেনারেটিভ এআই-এর প্রকৃতি। গ্রোক, অন্যান্য বৃহৎ ভাষা মডেলের মতো, টেক্সট এবং ছবির বিশাল ডেটাসেট বিশ্লেষণ করে শেখে। এরপর এটি ব্যবহারকারীর প্রম্পটের উপর ভিত্তি করে নতুন কন্টেন্ট তৈরি করতে সেই জ্ঞান ব্যবহার করে। চ্যালেঞ্জ হল, এই মডেলগুলিকে ক্ষতিকর বা অবৈধ কন্টেন্ট তৈরি করতে ব্যবহার করা যেতে পারে, যদি সঠিকভাবে সুরক্ষিত না করা হয়।

প্রধান প্রযুক্তিগত চ্যালেঞ্জগুলির মধ্যে একটি হল এআই-এর সৃজনশীল সম্ভাবনাকে দমন না করে কার্যকর ফিল্টার এবং সুরক্ষা ব্যবস্থা প্রয়োগ করা। বর্তমান পদ্ধতিগুলি প্রায়শই ক্ষতিকারক কন্টেন্টের সাথে সম্পর্কিত নির্দিষ্ট কীওয়ার্ড বা ছবির বৈশিষ্ট্য সনাক্ত করার উপর নির্ভর করে। তবে ব্যবহারকারীরা প্রায়শই বিকল্প শব্দ ব্যবহার করে বা সূক্ষ্মভাবে ছবি পরিবর্তন করে এই ফিল্টারগুলিকে এড়িয়ে যেতে পারে। এই লুকোচুরি খেলা আরও অত্যাধুনিক এআই সুরক্ষা ব্যবস্থার প্রয়োজনীয়তা তুলে ধরে।

এআই-উত্পাদিত কন্টেন্ট সম্পর্কিত আইনি পরিস্থিতিও দ্রুত পরিবর্তিত হচ্ছে। সম্প্রতি আইনে পরিণত হওয়া টেক ইট ডাউন অ্যাক্টের মতো আইনগুলির লক্ষ্য হল সম্মতিবিহীন অন্তরঙ্গ ছবি শেয়ারিংয়ের শিকারদের অনলাইন প্ল্যাটফর্ম থেকে কন্টেন্ট সরানোর জন্য একটি সরল প্রক্রিয়া সরবরাহ করা। তবে এআই-উত্পাদিত কন্টেন্টের ক্ষেত্রে এই আইনগুলি প্রয়োগ করা নতুন চ্যালেঞ্জ তৈরি করে, বিশেষ করে দায়বদ্ধতা নির্ধারণ এবং অবৈধ উপাদান কী, তার স্পষ্ট মান প্রতিষ্ঠা করার ক্ষেত্রে।

xAI-এর পরিস্থিতি সমগ্র এআই শিল্পের জন্য একটি কঠোর সতর্কবার্তা। জেনারেটিভ এআই মডেল তৈরি করা সংস্থাগুলিকে শুরু থেকেই সুরক্ষা এবং নৈতিক বিবেচনাকে অগ্রাধিকার দিতে হবে। এর মধ্যে রয়েছে শক্তিশালী কন্টেন্ট নিরীক্ষণ সিস্টেমে বিনিয়োগ করা, এআই সনাক্তকরণ সরঞ্জাম তৈরি করা এবং স্পষ্ট আইনি কাঠামো প্রতিষ্ঠার জন্য নীতিনির্ধারকদের সাথে কাজ করা।

এআই ক্রমাগত উন্নতির সাথে সাথে সৃজনশীল অভিব্যক্তি এবং ক্ষতিকারক কন্টেন্টের মধ্যেকার সীমারেখা ক্রমশ অস্পষ্ট হয়ে যাবে। গ্রোক বিতর্ক একটি সক্রিয় এবং সহযোগী পদ্ধতির জরুরি প্রয়োজনকে তুলে ধরে, যাতে এআই দায়িত্বশীল এবং নৈতিকভাবে ব্যবহার করা হয়। এআই-এর ভবিষ্যৎ এর উপর নির্ভরশীল।