ভাইরাল হওয়া অভিনেত্রী রশ্মিকা মান্দানার (Rashmika Mandana) ভিডিওটি আসলে ডিপফেক প্রযুক্তি (Deepfake technology) ব্যবহার করে তৈরি করা হয়েছিল। এই ঘটনাটি এই প্রযুক্তির সাহায্যে তৈরি আরও অনেক ছবি এবং ভিডিওর ঘটনা সামনে এনেছে। এটি আলিয়া ভাট, কিয়ারা আদভানি, কাজল, দীপিকা পাড়ুকোন এবং আরও অনেকের মতো বলিউড অভিনেত্রীদের জাল ভিডিও এবং ছবি তৈরির জন্য পরিচিত একটি টুইটার অ্যাকাউন্টের দিকেও দৃষ্টি আকর্ষণ করেছিল। ব্যবহারকারী সেই অ্যাকাউন্টটি মুছে ফেলেছেন বলে জানা গিয়েছে।
বুম লাইভ রিপোর্ট অনুসারে, একটি টুইটার অ্যাকাউন্ট, যা পূর্বে @crazyashfan নামে পরিচিত ছিল একজন ‘ফটো এবং ভিডিও ম্যানিপুলেশন শিল্পী’ হিসেবে চিহ্নিত। এই অ্যাকাউন্ট দ্বারা উৎপাদিত বিষয়বস্তু শিল্প থেকে অনেক দূরে। এই ব্যক্তি স্পষ্ট উপাদান খোঁজে এবং ভারতীয় অভিনেত্রীদের মুখের সাথে আসল প্রাপ্তবয়স্ক অভিনয়শিল্পীদের মুখ প্রতিস্থাপন করতে AI প্রযুক্তি ব্যবহার করে। X অ্যাকাউন্টটি মোট ৩৯টি পোস্ট শেয়ার করেছে, যেখানে আলিয়া ভাট, কিয়ারা আদভানি, কাজল, দীপিকা পাড়ুকোন এবং আরও কয়েকজনের মতো বলিউড তারকাদের AI-জেনারেট করা ভিডিওগুলি রয়েছে, যা স্পষ্ট যৌন কার্যকলাপে জড়িত।
অ্যাকাউন্টটি টুইটারে আরও চারটি অ্যাকাউন্ট অনুসরণ করছে যা ভারতীয় অভিনেত্রীদের সাথে জড়িত ডিপফেক সামগ্রী তৈরিতে একই প্রকৃতির ভাগ করে দেখা গেছে। নতুন ডিপফেক প্রবণতা দ্বারা শুধুমাত্র বলিউডের বিশিষ্ট ব্যক্তিরা প্রভাবিত হননি, হলিউড সুপারস্টার স্কারল্যাট জোহানসেন একটি বিজ্ঞাপনে তার ভয়েস ক্লোন করার জন্য এআই ক্লোন অ্যাপের বিরুদ্ধে মামলা করেছেন। বিজ্ঞাপনটিতে AI-জেনারেট করা ছবি এবং জোহানসন অনুকরণ করে ভয়েস দেখানো হয়েছে। জোহানসনের টিম বলেছে যে তিনি অ্যাপের বিরুদ্ধে আইনি ব্যবস্থা নেবেন। মাইক্রোসফটের প্রেসিডেন্ট ব্র্যাড স্মিথও এআই নিয়ন্ত্রণের প্রয়োজনীয়তার বিষয়ে মন্তব্য করেছেন। তিনি বলেছিলেন যে আমাদের এআই-চালিত বিষয়বস্তু থেকে মানুষকে রক্ষা করার জন্য পদক্ষেপ নেওয়া দরকার। সুতরাং, মূলত, স্কারলেট জোহানসন একটি ছোট বিজ্ঞাপনে উপস্থিত হয়েছিল যেখানে তারা AI ব্যবহার করে তার চেহারা এবং শব্দ তৈরি করে যেন তিনি এই AI অ্যাপটি প্রচার করছেন যা কেবল অবতার তৈরি করার চেয়ে আরও বেশি কিছু করতে পারে।
এটা বোঝা গুরুত্বপূর্ণ যে Deepfake প্রযুক্তি, যা নতুন নয় এবং কয়েক বছর ধরে রয়েছে, এখন স্ক্যামার এবং সাইবার অপরাধীদের দ্বারা শোষিত হচ্ছে। তারা ভিডিও এবং ছবি পরিবর্তন করতে এটি ব্যবহার করে, প্রায়শই সেগুলিকে স্পষ্ট করে তোলে। এই প্রযুক্তি ছবি এবং ভিডিওর অংশ পরিবর্তন এবং পুনরায় তৈরি করতে শক্তিশালী গ্রাফিক্স কার্ডের উপর নির্ভর করে। মানুষ মিথ্যা তথ্য ছড়ানোর জন্যও এটি ব্যবহার করে। এটা জানা অত্যাবশ্যক যে ফটোশপ বা ডিপফেক সফটওয়্যারের মতো টুল ব্যবহার করে ছবি এবং ভিডিও পরিবর্তন করা বেআইনি হতে পারে। ডিপফেক প্রযুক্তি অত্যন্ত প্রাণবন্ত অথচ বিভ্রান্তিকর ডিজিটাল সামগ্রী তৈরি করতে উন্নত কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে। এটি ভিডিও বা অডিও রেকর্ডিংয়ে কেউ দেখতে এবং শব্দ করে তা পরিবর্তন করতে পারে, যা নকল থেকে আসল তা বলা কঠিন করে তোলে৷
