ডিজিটাল বিশ্ব একটি উদ্বেগজনক নতুন দিগন্তের সঙ্গে যুঝছে: এআই-উত্পাদিত যৌন চিত্র। সৃজনশীল সহায়তার একটি ভবিষ্যতবাণী হিসাবে যা শুরু হয়েছিল, তা এখন সম্মতি, নৈতিকতা এবং আইনি জবাবদিহিতার যুদ্ধক্ষেত্রে পরিণত হয়েছে। সর্বশেষ আলোচনার কেন্দ্রবিন্দু? এলন মাস্কের xAI, গ্রোক চ্যাটবটের পেছনের সংস্থা, যা এখন ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের তত্ত্বাবধানে রয়েছে।

অ্যাটর্নি জেনারেল রব বোন্টা বুধবার এই তদন্তের ঘোষণা করেন। অভিযোগে বলা হয়েছে, গ্রোককে সম্মতিবিহীন যৌনতাপূর্ণ উপাদান তৈরি করতে ব্যবহার করা হচ্ছে, যার মধ্যে এমন ছবিও রয়েছে যেখানে অপ্রাপ্তবয়স্ক ব্যক্তিদের দেখানো হয়েছে বলে মনে করা হচ্ছে। এই তদন্ত এমন এক সময়ে এসেছে, যখন যুক্তরাজ্য, ইউরোপ থেকে শুরু করে মালয়েশিয়া ও ইন্দোনেশিয়া পর্যন্ত বিভিন্ন দেশের সরকার এআই-এর অপব্যবহার করে ক্ষতিকর কনটেন্ট তৈরি ও বিতরণের বিষয়ে উদ্বেগ প্রকাশ করেছে।

মূল সমস্যাটি হলো গ্রোকের মতো এআই মডেল ব্যবহার করে নারীদের এবং সম্ভবত শিশুদের বাস্তব জীবনের ছবি তাদের অনুমতি ছাড়াই যৌন উত্তেজক ছবিতে রূপান্তরিত করার ক্ষমতা। প্রায়শই সতর্কতার সাথে তৈরি প্রম্পট এবং নির্দেশের মাধ্যমে এই প্রক্রিয়া সম্পন্ন করা হয়, যা বাস্তবসম্মত ভিজ্যুয়াল তৈরি করার জন্য এআই-এর ক্ষমতাকে কাজে লাগায়। এআই সনাক্তকরণ এবং কনটেন্ট গভর্ন্যান্স প্ল্যাটফর্ম Copyleaks-এর অনুমান, মাস্কের মালিকানাধীন সোশ্যাল মিডিয়া প্ল্যাটফর্ম X-এ প্রতি মিনিটে প্রায় একটি করে এই ধরনের ছবি পোস্ট করা হচ্ছে। ৫ জানুয়ারি থেকে ৬ জানুয়ারির মধ্যে সংগৃহীত একটি পৃথক নমুনায় দেখা গেছে, ২৪ ঘন্টায় প্রতি ঘন্টায় ৬,৭০০টি ছবি পোস্ট করা হয়েছে।

বোন্টার ঘোষণার কয়েক ঘণ্টা আগে মাস্ক এক বিবৃতিতে দাবি করেছেন, গ্রোক দ্বারা তৈরি করা এই ধরনের ছবি সম্পর্কে তিনি অবগত নন। তবে, রিপোর্ট করা ঘটনার বিপুল সংখ্যা একটি পদ্ধতিগত সমস্যার ইঙ্গিত দেয়, যার জরুরি মনোযোগ প্রয়োজন।

অ্যাটর্নি জেনারেল বোন্টা বলেন, "এই উপাদানটি সারা ইন্টারনেট জুড়ে মানুষকে হয়রানি করতে ব্যবহৃত হয়েছে।" "আমি xAI-কে অবিলম্বে ব্যবস্থা নেওয়ার আহ্বান জানাচ্ছি, যাতে এটি আর না বাড়ে। এজি-র কার্যালয় তদন্ত করবে xAI আইন লঙ্ঘন করেছে কিনা এবং কীভাবে করেছে।"

এআই-উত্পাদিত কনটেন্টের আশেপাশের আইনি পরিস্থিতি এখনও বিকশিত হচ্ছে, তবে বিদ্যমান আইনগুলি সম্মতিবিহীন যৌন চিত্র এবং শিশু যৌন নির্যাতন সামগ্রীর (CSAM) শিকারদের কিছু সুরক্ষা প্রদান করে। গত বছর ফেডারেল আইনে স্বাক্ষরিত টেক ইট ডাউন অ্যাক্ট, সম্মতি ছাড়াই শেয়ার করা অন্তরঙ্গ ছবি সরানোর জন্য একটি কাঠামো প্রদান করে। ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের তদন্ত সম্ভবত এই দিকে দৃষ্টি নিবদ্ধ করবে যে xAI অবৈধ কনটেন্ট তৈরি এবং বিতরণ রোধ করতে পর্যাপ্ত পদক্ষেপ নিয়েছে কিনা এবং দুর্বল ব্যক্তিদের সুরক্ষার জন্য এর সুরক্ষাব্যবস্থা যথেষ্ট কিনা।

এই পরিস্থিতি এআই শিল্পের জন্য একটি গুরুত্বপূর্ণ চ্যালেঞ্জ তুলে ধরে: নৈতিক দায়বদ্ধতার সঙ্গে উদ্ভাবনের ভারসাম্য বজায় রাখা। গ্রোকের মতো এআই মডেলগুলি সৃজনশীলতা এবং উত্পাদনশীলতার জন্য বিশাল সম্ভাবনা সরবরাহ করলেও তারা অপব্যবহারের নতুন পথও খুলে দেয়। বিশেষজ্ঞরা বলছেন, ডেভেলপারদের অবশ্যই সুরক্ষাকে অগ্রাধিকার দিতে হবে এবং তাদের প্রযুক্তির অপব্যবহার রোধ করতে শক্তিশালী সুরক্ষাব্যবস্থা প্রয়োগ করতে হবে।

স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের এআই এথিক্সের অধ্যাপক ডঃ এমিলি কার্টার বলেন, "এই এআই মডেলগুলির নির্মাতাদের ওপর দায়িত্ব বর্তায়।" "ক্ষতির সম্ভাবনা মোকাবিলা করতে এবং আপত্তিজনক কনটেন্ট সনাক্তকরণ ও অপসারণের জন্য তাদের সক্রিয়ভাবে ব্যবস্থা নিতে হবে। এর মধ্যে উন্নত কনটেন্ট মডারেশন সরঞ্জামগুলিতে বিনিয়োগ করা এবং অপরাধীদের সনাক্ত ও বিচারের জন্য আইন প্রয়োগকারী সংস্থার সাথে কাজ করা অন্তর্ভুক্ত।"

xAI-এর ঘটনাটি বিচ্ছিন্ন নয়। অন্যান্য এআই ইমেজ জেনারেটর সম্পর্কেও অনুরূপ উদ্বেগ উত্থাপিত হয়েছে, যা বৃহত্তর নিয়ন্ত্রণ এবং শিল্প স্ব-নিয়ন্ত্রণের আহ্বান জানিয়েছে। ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের তদন্তের ফলাফল এআই সংস্থাগুলিকে তাদের প্রযুক্তির অপব্যবহারের জন্য কীভাবে জবাবদিহি করা হবে, তার একটি নজির স্থাপন করতে পারে।

সামনে তাকালে, শিল্প একটি গুরুত্বপূর্ণ বাঁক পরিবর্তনের সম্মুখীন। এআই-এর বিকাশ একটি শক্তিশালী নৈতিক মানদণ্ড দ্বারা পরিচালিত হতে হবে, যাতে এই শক্তিশালী সরঞ্জামগুলি সমাজের উপকারের জন্য ব্যবহৃত হয়, ক্ষতি করার জন্য নয়। xAI-এর তদন্ত একটি কঠোর অনুস্মারক হিসাবে কাজ করে যে এআই-এর ভবিষ্যৎ এর দ্বারা উপস্থাপিত নৈতিক চ্যালেঞ্জগুলি মোকাবিলা করার আমাদের ক্ষমতার উপর নির্ভর করে। ঝুঁকির পরিমাণ অনেক বেশি, এবং কাজ করার সময় এখনই।