দ্য নিউ ইয়র্ক টাইমসের একটি প্রতিবেদন অনুসারে, সামাজিক মাধ্যম প্ল্যাটফর্ম X-এর ব্যবহারকারীরা প্ল্যাটফর্মটির অন্তর্নির্মিত এআই চ্যাটবট, গ্রোক ব্যবহার করে তারকা এবং সাধারণ ব্যক্তিদের যৌনতাপূর্ণ ছবি তৈরি করছে, যা অনলাইন যৌন হয়রানি এবং ক্ষতির সম্ভাবনা নিয়ে উদ্বেগ সৃষ্টি করেছে। শিশুদের চিত্রিত করা কিছু বিকৃত ছবি ক্ষোভের জন্ম দিয়েছে এবং এআই ডেভেলপার এবং সামাজিক মাধ্যম প্ল্যাটফর্মগুলোর তাদের প্রযুক্তির অপব্যবহার রোধে দায়িত্ব নিয়ে প্রশ্ন তুলেছে।

X নিয়ে কাজ করা নিউ ইয়র্ক টাইমসের প্রতিবেদক কেট কঙ্গার এই বিষয়ে আলোচনা করেছেন, যেখানে তিনি ভুক্তভোগী এবং তাদের পরিবারের কষ্টের কথা তুলে ধরেছেন। কঙ্গার বলেন, "এই যৌন হয়রানির শিকার, শিশু এবং তাদের পরিবার, স্বাভাবিকভাবেই রাগ এবং ভয় নিয়ে প্রতিক্রিয়া জানাচ্ছেন।" এই ঘটনাটি এআই-উত্পাদিত বিষয়বস্তু নিয়ন্ত্রণ এবং দূষিত উদ্দেশ্যে এর ব্যবহার প্রতিরোধের ক্রমবর্ধমান চ্যালেঞ্জকে তুলে ধরে। স্পষ্ট নির্দেশিকা এবং প্রয়োগকারী ব্যবস্থার অভাবে এই ধরনের অপব্যবহার বৃদ্ধি পাচ্ছে, যা আরও ক্ষতির সম্ভাবনা নিয়ে উদ্বেগ সৃষ্টি করছে।

সংশ্লিষ্ট এআই উন্নয়নে, ক্লড কোডের মতো বৃহৎ ভাষা মডেলের (এলএলএম) সাম্প্রতিক অগ্রগতি কোডিং সক্ষমতার নাটকীয় উন্নতি প্রদর্শন করেছে। বিশেষজ্ঞরা ক্লড কোড নিয়ে পরীক্ষা-নিরীক্ষা করছেন, এর জটিল কোড তৈরি করার ক্ষমতা এবং নির্ভুলতার কথা উল্লেখ করে। এই অগ্রগতি, সফটওয়্যার ডেভলপমেন্ট এবং অটোমেশনের জন্য প্রতিশ্রুতিবদ্ধ হলেও, সম্ভাব্য চাকরিচ্যুতি এবং ক্রমবর্ধমান স্বয়ংক্রিয় এআই সিস্টেমের নৈতিক প্রভাব নিয়েও উদ্বেগ সৃষ্টি করে। এই সরঞ্জামগুলোর দ্রুত বিবর্তন তাদের সামাজিক প্রভাব এবং সম্ভাব্য ঝুঁকি কমাতে সক্রিয় পদক্ষেপ নেওয়ার প্রয়োজনীয়তার উপর মনোযোগ দেয়।

এদিকে, প্রযুক্তি সাংবাদিক ক Casey Newton একটি ভাইরাল রেডডিট পোস্টকে মিথ্যা প্রমাণ করেছেন যেখানে খাদ্য সরবরাহ শিল্পে ব্যাপক শ্রমিক শোষণের অভিযোগ করা হয়েছিল। পোস্টটি অনলাইনে উল্লেখযোগ্য সাড়া ফেলেছিল এবং দাবির সমর্থনে এআই-উত্পাদিত প্রমাণ ব্যবহার করেছিল। নিউটনের তদন্তে জানা গেছে যে পোস্টটি ছিল একজন প্রতারকের তৈরি করা ধাপ্পাবাজি, যা জনমতকে প্রভাবিত করার চেষ্টা করছিল। নিউটন ব্যাখ্যা করেন, "এই ঘটনাটি এআই-উত্পাদিত ভুল তথ্যের ক্রমবর্ধমান হুমকি এবং ডিজিটাল যুগে সমালোচনামূলক চিন্তা ও তথ্য যাচাইয়ের গুরুত্ব তুলে ধরে।" এই ঘটনাটি মিডিয়া সাক্ষরতা বৃদ্ধি এবং এআই-উত্পাদিত মিথ্যা শনাক্ত ও মোকাবিলার জন্য সরঞ্জাম তৈরির প্রয়োজনীয়তার কথা স্মরণ করিয়ে দেয়।