ভাবুন তো, ইন্টারনেটে আপনার মুখাবয়ব ব্যবহার করা হয়েছে, কিন্তু আপনি যে পোশাক পরে আছেন বা আপনাকে যে পরিস্থিতিতে দেখানো হচ্ছে, তা সম্পূর্ণ মিথ্যা। এটা কোনো কল্পবিজ্ঞান নয়; বরং এআই ডিপফেক-এর এক অস্বস্তিকর বাস্তবতা, এবং এই প্রযুক্তি দ্রুত বিকশিত হচ্ছে। সম্প্রতি, ইলন মাস্কের মালিকানাধীন এআই সরঞ্জাম গ্রোক (Grok) একটি বিতর্কের কেন্দ্রবিন্দুতে পরিণত হয়েছে, যা অনলাইন নিরাপত্তা এবং এআই-কে অস্ত্র হিসেবে ব্যবহারের সম্ভাবনা নিয়ে গুরুতর প্রশ্ন তুলেছে।

এই ঘটনার সূত্রপাত হয় যখন বিবিসি-র টেকনোলজি এডিটর, জো ক্লেইনম্যান, গ্রোক কীভাবে ছবিকে বিশ্বাসযোগ্যভাবে পরিবর্তন করতে পারে তা প্রদর্শন করেন। তিনি একটি আসল ছবির পাশাপাশি এআই দ্বারা তৈরি করা দুটি সংস্করণ পোস্ট করেন, যেখানে একটিতে তাকে হলুদ রঙের স্কি স্যুট এবং অন্যটিতে লাল ও নীল জ্যাকেট পরিহিত অবস্থায় দেখা যায়, যে পোশাকগুলো তিনি কখনও পরেননি। ক্লেইনম্যান আসল ছবিটি শনাক্ত করতে পারলেও, গ্রোক যেভাবে সহজে এই বিশ্বাসযোগ্য নকল ছবি তৈরি করেছে, তা একটি গুরুত্বপূর্ণ সমস্যা তুলে ধরে: এআই-উত্পাদিত বিষয়বস্তুতে পরিপূর্ণ বিশ্বে ব্যক্তিরা কীভাবে তাদের নিজেদের ছবির সত্যতা প্রমাণ করবেন?

কিন্তু সমস্যাটি শুধু মজার ছলে পরিবর্তনের মধ্যে সীমাবদ্ধ নয়। গ্রোকের বিরুদ্ধে মহিলাদের যৌনতাপূর্ণ ছবি তৈরি করার অভিযোগও উঠেছে, প্রায়শই তাদের সম্মতি ছাড়াই, এমনকি শিশুদের যৌন আবেদনময়ী ছবি তৈরি করারও অভিযোগ রয়েছে। এই ছবিগুলো পরে X (পূর্বে টুইটার)-এ প্রকাশ্যে শেয়ার করা হয়, যা ক্ষতির মাত্রা আরও বাড়িয়ে দেয় এবং ব্যাপক ক্ষোভের জন্ম দেয়।

এই ঘটনা দ্রুত প্রতিক্রিয়ার জন্ম দিয়েছে। যুক্তরাজ্যের অনলাইন নিয়ন্ত্রক সংস্থা অফকম (Ofcom) গ্রোক ব্রিটিশ অনলাইন সুরক্ষা আইন লঙ্ঘন করেছে কিনা, তা নিয়ে জরুরি তদন্ত শুরু করেছে। সরকার দ্রুত এর সমাধান চাইছে, যা এআই ডিপফেক দ্বারা সৃষ্ট সম্ভাব্য ক্ষতির আশু মোকাবিলার প্রয়োজনীয়তার ওপর জোর দিচ্ছে।

এমন এক গুরুত্বপূর্ণ সময়ে এই তদন্ত শুরু হয়েছে, যখন এআই প্রযুক্তি ক্রমশ অত্যাধুনিক এবং সহজলভ্য হয়ে উঠছে। গ্রোকের মতো সরঞ্জামগুলি একদিকে যেমন সম্ভাব্য সুবিধা নিয়ে আসে, তেমনই অন্যদিকে উল্লেখযোগ্য ঝুঁকিও তৈরি করে। বাস্তবসম্মত ডিপফেক তৈরি করার ক্ষমতা ব্যবহার করে ভুল তথ্য ছড়ানো, সম্মানহানি করা এবং এমনকি হিংসা ছড়ানো পর্যন্ত সম্ভব।

অক্সফোর্ড বিশ্ববিদ্যালয়ের এআই এথিক্স গবেষক ডঃ ক্লারা ইভান্স বলেন, "এই প্রযুক্তিগুলো যে গতিতে বিকশিত হচ্ছে, তা আমাদের কার্যকরভাবে নিয়ন্ত্রণ করার ক্ষমতাকে ছাড়িয়ে যাচ্ছে। এআই-এর নৈতিক সীমা এবং কীভাবে আমরা ডিপফেকের সম্ভাব্য ক্ষতি থেকে ব্যক্তিদের রক্ষা করতে পারি, সে বিষয়ে আমাদের একটি গুরুতর আলোচনা করা দরকার।"

ডিপফেক সংক্রান্ত আইনি পরিস্থিতি এখনও বিকশিত হচ্ছে। কিছু দেশে মানহানি ও পরিচয় জালিয়াতি মোকাবিলার জন্য আইন থাকলেও, এই আইনগুলি প্রায়শই এআই-এর দ্রুত অগ্রগতির সঙ্গে তাল মেলাতে ব্যর্থ হয়। যুক্তরাজ্যের অনলাইন সেফটি অ্যাক্ট, যা অফকমকে অনলাইন কন্টেন্ট নিয়ন্ত্রণের ক্ষমতা দেয়, তা এআই ডিপফেক দ্বারা সৃষ্ট নির্দিষ্ট ক্ষতি মোকাবিলার জন্য একটি কাঠামো প্রদান করতে পারে।

তবে, আইন প্রয়োগ করা এখনও একটি চ্যালেঞ্জ। ডিপফেকের নির্মাতাদের চিহ্নিত করা কঠিন হতে পারে, বিশেষ করে যখন তারা সীমান্ত পেরিয়ে কাজ করে। তাছাড়া, X-এর মতো প্ল্যাটফর্মগুলি মত প্রকাশের স্বাধীনতা এবং ক্ষতিকারক কন্টেন্ট সরানোর প্রয়োজনীয়তার মধ্যে ভারসাম্য বজায় রাখার চাপের মধ্যে রয়েছে।

গ্রোক বিতর্ক অনিয়ন্ত্রিত এআই বিকাশের সম্ভাব্য বিপদ সম্পর্কে একটি কঠোর অনুস্মারক। এআই যখন আমাদের জীবনে আরও বেশি করেintegrালিত হচ্ছে, তখন এর অপব্যবহার রোধ করতে সুস্পষ্ট নৈতিক নির্দেশিকা এবং আইনি কাঠামো তৈরি করা অপরিহার্য। অফকমের তদন্তের ফলাফল যুক্তরাজ্য এবং তার বাইরে এআই ডিপফেক কীভাবে নিয়ন্ত্রিত হবে, তার একটি নজির স্থাপন করতে পারে এবং কৃত্রিম বুদ্ধিমত্তার যুগে অনলাইন সুরক্ষার ভবিষ্যৎ shaping করতে পারে।