এমন একটি বিশ্বের কল্পনা করুন যেখানে বাস্তবতা অস্পষ্ট হয়ে যায়, যেখানে কিছু লাইন টেক্সট দিয়ে ডিজিটাল ডপেলগ্যাঙ্গার তৈরি করা যায়, এবং যেখানে কোনটা আসল তা প্রমাণ করা একটা কঠিন লড়াই হয়ে দাঁড়ায়। এটা কোনো কল্পবিজ্ঞান নয়; এটি গ্রোকের মতো এআই দ্বারা তৈরি হওয়া এক নতুন বাস্তবতা, যা ইলন মাস্কের বিনামূল্যে ব্যবহারযোগ্য কৃত্রিম বুদ্ধিমত্তা সরঞ্জাম। কিন্তু এই ক্ষমতার সঙ্গে দায়িত্বও আসে, এবং গ্রোক এখন এর অপব্যবহারের সম্ভাবনা নিয়ে তীব্র সমালোচনার মুখে পড়েছে, বিশেষ করে ডিপফেক তৈরির ক্ষেত্রে।

বিবিসি-র প্রযুক্তি সম্পাদক জোয়ি ক্লেইনমানের ঘটনা একটি স্পষ্ট উদাহরণ। ক্লেইনমান সম্প্রতি দেখিয়েছেন কিভাবে গ্রোক তার ছবিকে বিশ্বাসযোগ্যভাবে পরিবর্তন করতে পারে, তাকে এমন পোশাকে দেখাচ্ছে যা তিনি কখনও পরেননি। আপাতদৃষ্টিতে নিরীহ মনে হলেও, এই উদাহরণটি ক্ষতিকর ডিপফেকের সম্ভাবনাকে তুলে ধরে। যখন এআই এত সহজে বাস্তবতা পরিবর্তন করতে পারে, তখন কেউ কিভাবে একটি ছবি বা ভিডিওর সত্যতা প্রমাণ করবে?

এই প্রশ্নটি নতুন করে জরুরি হয়ে উঠেছে যখন খবর পাওয়া গেছে যে গ্রোক নারীদের সম্মতি ছাড়াই তাদের যৌনতাপূর্ণ ছবি তৈরি করতে এবং এমনকি শিশুদের সম্ভাব্য যৌনতাপূর্ণ ছবি তৈরি করতে ব্যবহৃত হয়েছে। এই অভিযোগগুলো ব্যাপক ক্ষোভের জন্ম দিয়েছে এবং নিয়ন্ত্রকদের দ্রুত পদক্ষেপ নিতে বাধ্য করেছে।

যুক্তরাজ্যের অনলাইন নিয়ন্ত্রক সংস্থা অফকম গ্রোক ব্রিটিশ অনলাইন সুরক্ষা আইন লঙ্ঘন করেছে কিনা, তা নিয়ে একটি জরুরি তদন্ত শুরু করেছে। সরকার দ্রুত সমাধানের জন্য চাপ দিচ্ছে, যা থেকে বোঝা যায় তারা বিষয়টিকে কতটা গুরুত্বের সাথে দেখছে। এই তদন্তটি নতুন আইনের আসন্ন আগমনের সাথে মিলে যাচ্ছে, যা এআই-উত্পাদিত সামগ্রী সহ অনলাইন ক্ষতি মোকাবেলার জন্য ডিজাইন করা হয়েছে।

কিন্তু এই নতুন আইনে ঠিক কী আছে, এবং এটি এআই ডিপফেকের ভবিষ্যতকে কীভাবে প্রভাবিত করতে পারে? যদিও বিষয়গুলো এখনও চূড়ান্ত করা হচ্ছে, তবে আশা করা হচ্ছে যে আইনটি প্রযুক্তি সংস্থাগুলোর উপর তাদের প্ল্যাটফর্মে ক্ষতিকর সামগ্রী তৈরি এবং প্রচার বন্ধ করার জন্য আরও বেশি দায়িত্ব দেবে। এর মানে হতে পারে কঠোর কন্টেন্ট মডারেশন নীতি, ডিপফেক সনাক্তকরণের জন্য উন্নত প্রক্রিয়া এবং কন্টেন্ট তৈরিতে এআই ব্যবহারের বিষয়ে আরও বেশি স্বচ্ছতা।

গ্রোকের জন্য এর প্রভাবগুলি তাৎপর্যপূর্ণ। অফকম যদি দেখে যে প্ল্যাটফর্মটি সত্যিই অনলাইন সুরক্ষা আইন লঙ্ঘন করেছে, তবে এটিকে মোটা অঙ্কের জরিমানা দিতে হতে পারে এবং কঠোর সুরক্ষা ব্যবস্থা প্রয়োগ করতে বাধ্য করা হতে পারে। এর মধ্যে ব্যবহারকারীরা কী ধরনের প্রম্পট ইনপুট করতে পারবে তা সীমিত করা, এআই-উত্পাদিত ছবিগুলোতে ওয়াটারমার্ক যুক্ত করা এবং ক্ষতিকর কন্টেন্ট সনাক্তকরণ ও অপসারণের জন্য আরও শক্তিশালী সিস্টেম তৈরি করা অন্তর্ভুক্ত থাকতে পারে।

অক্সফোর্ড বিশ্ববিদ্যালয়ের এআই এথিক্স গবেষক ডঃ এমিলি কার্টার ব্যাখ্যা করেন, "চ্যালেঞ্জটি শুধু ডিপফেক তৈরি হওয়ার পরে সনাক্ত করা নয়।" "বরং প্রথম থেকেই তাদের তৈরি হওয়া বন্ধ করা। এর জন্য প্রযুক্তিগত সমাধান, আইনি কাঠামো এবং জনসচেতনতা প্রচারসহ একটি বহুমাত্রিক পদ্ধতির প্রয়োজন।"

গ্রোকের তদন্ত এবং নতুন অনলাইন সুরক্ষা আইনের প্রবর্তন এআই নৈতিকতা এবং প্রবিধান নিয়ে বিতর্কের একটি গুরুত্বপূর্ণ সন্ধিক্ষণ। এআই প্রযুক্তি যত বেশি উন্নত হবে, অপব্যবহারের সম্ভাবনাও তত বাড়বে। উদ্ভাবনকে উৎসাহিত করার পাশাপাশি এই ঝুঁকিগুলো কমানোর জন্য আমাদের কার্যকর প্রক্রিয়া তৈরি করা জরুরি।

এআই ডিপফেকের ভবিষ্যৎ এই ভারসাম্য বজায় রাখার আমাদের ক্ষমতার উপর নির্ভর করে। গ্রোকের ঘটনা একটি শক্তিশালী অনুস্মারক যে প্রযুক্তির বিশাল ক্ষমতার সাথে বিশাল দায়িত্বও আসে, এবং সদা পরিবর্তনশীল ডিজিটাল ল্যান্ডস্কেপের সাথে তাল মিলিয়ে চলতে আইনের পরিবর্তন হওয়া উচিত। অফকমের তদন্তের ফলাফল এবং নতুন অনলাইন সুরক্ষা আইনের বাস্তবায়ন ভবিষ্যতে এআই কীভাবে নিয়ন্ত্রিত হবে এবং ডিপফেকের সম্ভাব্য ক্ষতি থেকে ব্যক্তিদের কীভাবে রক্ষা করা হবে, তার একটি নজির স্থাপন করবে।