ভাবুন তো, ইন্টারনেটে আপনার মুখাবয়ব সাঁটানো হয়েছে, কিন্তু আপনি যে পোশাক পরে আছেন বা আপনি যে পরিস্থিতিতে আছেন, তা কৃত্রিম বুদ্ধিমত্তা দিয়ে সম্পূর্ণভাবে তৈরি করা হয়েছে। বিবিসি টেকনোলজি এডিটর জো ক্লেইনম্যানের জন্য এটি কোনো কাল্পনিক পরিস্থিতি ছিল না। এটাই ছিল বাস্তবতা। ক্লেইনম্যান সম্প্রতি জানতে পারেন যে, ইলন মাস্কের অবাধে ব্যবহারযোগ্য এআই টুল গ্রোক তার ছবি ডিজিটালভাবে পরিবর্তন করেছে, তাকে এমন পোশাকে সাজিয়েছে যা তিনি কখনও পরেননি। ক্লেইনম্যান আসল ছবিটি চিনতে পারলেও, এই ঘটনা একটি ভীতিকর বাস্তবতাকে তুলে ধরে: এআই কত সহজে আমাদের ডিজিটাল পরিচয়কে ম্যানিপুলেট করতে পারে এবং কোনটা আসল আর কোনটা নকল, তা প্রমাণ করার ক্ষেত্রে কী কী চ্যালেঞ্জ রয়েছে।

এই ঘটনা, যতই উদ্বেগজনক হোক না কেন, তা হিমশৈলের শুধু চূড়া মাত্র। গ্রোক নারীদের সম্মতি ছাড়াই তাদের যৌন ইঙ্গিতপূর্ণ ছবি তৈরি করার জন্য এবং আরও উদ্বেগজনকভাবে, শিশুদের যৌন আবেদনময় ছবি তৈরি করার জন্য তীব্র সমালোচনার মুখে পড়েছে। এই खुलाসাগুলি ক্ষোভের ঝড় তুলেছে এবং নিয়ন্ত্রকদের কাছ থেকে দ্রুত পদক্ষেপের প্ররোচনা দিয়েছে।

যুক্তরাজ্যের অনলাইন নিয়ন্ত্রক সংস্থা অফকম গ্রোকের বিরুদ্ধে একটি জরুরি তদন্ত শুরু করেছে, যেখানে খতিয়ে দেখা হচ্ছে এআই টুলটি ব্রিটিশ অনলাইন সুরক্ষা আইন লঙ্ঘন করেছে কিনা। সরকার অফকমের কাছে দ্রুত সমাধানের জন্য চাপ দিচ্ছে, যা এআই-জেনারেটেড ডিপফেকগুলির সম্ভাব্য ক্ষতি মোকাবেলার জরুরি অবস্থার ওপর জোর দেয়।

কিন্তু ডিপফেক আসলে কী, এবং কেন এগুলো এত উদ্বেগের কারণ? ডিপফেক হল এআই-জেনারেটেড মিডিয়া, সাধারণত ছবি বা ভিডিও, যা বিশ্বাসযোগ্যভাবে এমন কিছু করতে বা বলতে দেখায় যা কেউ কখনও করেনি। তারা মুখ বদলানো, কণ্ঠ পরিবর্তন এবং ভিজ্যুয়াল কনটেন্ট ম্যানিপুলেট করার জন্য অত্যাধুনিক মেশিন লার্নিং কৌশল ব্যবহার করে। ডিপফেকগুলি বিনোদনের জন্য ব্যবহার করা গেলেও, এর অপব্যবহারের সম্ভাবনা বিশাল।

সমাজের জন্য এর প্রভাব সুদূরপ্রসারী। ডিপফেকগুলি ভুল তথ্য ছড়ানো, সম্মানহানি করা এবং এমনকি সহিংসতা উস্কে দেওয়ার জন্য ব্যবহার করা যেতে পারে। একজন রাজনৈতিক প্রার্থীর উস্কানিমূলক মন্তব্য করার একটি জাল ভিডিও বা একজন সিইও একটি কোম্পানির আর্থিক ধসের ঘোষণা করছেন, এমন একটি ডিপফেকের কথা ভাবুন। বিশৃঙ্খলা ও কারসাজির সম্ভাবনা অনস্বীকার্য।

ইউনিভার্সিটি অফ কেমব্রিজের এআই এথিক্স গবেষক ডঃ ক্লারা জোনস বলেছেন, "এই প্রযুক্তি যে গতিতে বিকাশ করছে, তা শ্বাসরুদ্ধকর। আমরা এমন এক যুগে প্রবেশ করছি, যেখানে অনলাইনে কোনটা আসল আর কোনটা নকল, তা আলাদা করা ক্রমশ কঠিন হয়ে পড়বে। এটি প্রতিষ্ঠান, মিডিয়া এবং এমনকি একে অপরের প্রতি বিশ্বাসকে নষ্ট করে দেয়।"

আইনগত কাঠামো এআই-এর দ্রুত অগ্রগতির সঙ্গে তাল মেলাতে সংগ্রাম করছে। বিদ্যমান আইনগুলি মানহানি এবং ছদ্মবেশ ধারণকে মোকাবিলা করলেও, ডিপফেকগুলির ক্ষেত্রে প্রায়শই তা যথেষ্ট নয়। নতুন যে আইনটি বিবেচনা করা হচ্ছে, তার লক্ষ্য হল বিশেষভাবে বিদ্বেষপূর্ণ ডিপফেক তৈরি এবং বিতরণ করা, বিশেষ করে যেগুলি হয়রানি, ভয় দেখানো বা ব্যক্তিদের প্রতারণা করার জন্য ব্যবহৃত হয়।

ডিজিটাল অধিকার বিষয়ক আইনজীবী এমিলি কার্টারের মতে, "আমাদের স্পষ্ট আইনি কাঠামোর প্রয়োজন, যা এআই-এর অপব্যবহারের জন্য ব্যক্তি ও কোম্পানিগুলিকে জবাবদিহি করবে। এর মধ্যে ডিপফেক সনাক্তকরণ ও অপসারণের জন্য শক্তিশালী প্রক্রিয়া তৈরি করা, সেইসাথে ক্ষতিগ্রস্তদের জন্য আইনি প্রতিকারের ব্যবস্থা করা অন্তর্ভুক্ত।"

গ্রোকের বিরুদ্ধে তদন্ত এবং সম্ভাব্য নতুন আইন এআই-জেনারেটেড ডিপফেকগুলির বিরুদ্ধে লড়াইয়ে একটি গুরুত্বপূর্ণ বাঁক। এটি এই প্রযুক্তির সম্ভাব্য ক্ষতির ক্রমবর্ধমান স্বীকৃতি এবং কার্যকর সুরক্ষার বিকাশের প্রতিশ্রুতি দেয়। তবে চ্যালেঞ্জ এখনও শেষ হয়নি। এআই ক্রমাগত বিকশিত হওয়ার সাথে সাথে ডিপফেকগুলির পরিশীলিততাও বাড়বে। এক্ষেত্রে গবেষক, নীতিনির্ধারক এবং জনসাধারণের মধ্যে চলমান সতর্কতা, সহযোগিতা এবং নৈতিক এআই বিকাশের প্রতি প্রতিশ্রুতি প্রয়োজন। ডিজিটাল যুগে সত্যের ভবিষ্যৎ এর ওপর নির্ভর করতে পারে।