গত কয়েক মাসে, এআই-জেনারেটেড ডিপফেক সামগ্রী ইন্টারনেটে উদ্বেগজনক হারে প্লাবিত করছে। এটিকে গুরুত্ব সহকারে নেওয়া হয়নি যতক্ষণ না একজন সেলিব্রিটি এর দ্বারা একটি অস্বস্তিকর পরিবেশের সৃষ্টি হয়েছিল। অভিনেত্রী রশ্মিকা মান্দানার মুখের সাথে প্রভাবশালী জারা প্যাটেলের একটি ভিডিও ইন্টারনেটে ভাইরাল হওয়ার পরেই, টাইগার 3-এর অভিনেত্রী ক্যাটরিনা কাইফের আরেকটি ছবি ভাইরাল হয়েছিল যা আসল ছবি থেকে সম্পূর্ণ আলাদা ছিল।
ভারত সরকার ইন্টারনেটে এআই-উৎপাদিত বিভ্রান্তিকর বিষয়বস্তুর বিরুদ্ধে বেশ কয়েকটি নোটিশ জারি করে। এবারে ভাইরাল হওয়া ছবিতে, সারাকে ব্যাটসম্যান শুভমানকে আলিঙ্গন করতে দেখা যায় যখন তারা ক্যামেরার দিকে তাকিয়ে হাসছে। ছবিটি প্রথমে @pandey7829 নামে একজন টুইটার ব্যবহারকারী শেয়ার করেছিলেন যিনি এটির ক্যাপশনে লিখেছেন, “সারা টেন্ডুলকার নিশ্চিত করেছেন যে তিনি শুভমান গিলকে ডেট করছেন।” এটি ইন্টারনেটে ব্যাপক বিভ্রান্তি সৃষ্টি করেছে।
রশ্মিকা তার ডিপফেক ভিডিও ভাইরাল হওয়ার পর জানিয়েছিলেন, “আমি এটি শেয়ার করতে সত্যিই কষ্ট বোধ করছি এবং আমার ডিপফেক ভিডিওটি অনলাইনে ছড়িয়ে পড়ার বিষয়ে কথা বলতে হচ্ছে। এইরকম কিছু সত্যই, অত্যন্ত ভীতিকর শুধু আমার জন্যই নয়, আমাদের প্রত্যেকের জন্যও যারা আজ প্রযুক্তির অপব্যবহারের কারণে এত ক্ষতির ঝুঁকিতে রয়েছে।”
— Arya_Sinha9 (@Yobitch92321581) November 9, 2023
ডিপফেক কি?
ডিপফেক হল এক ধরনের সিন্থেটিক মিডিয়া যেখানে বিদ্যমান ইমেজ বা ভিডিওতে থাকা একজন ব্যক্তিকে এআই ব্যবহার করে অন্য কারো সাদৃশ্য দিয়ে প্রতিস্থাপিত করা হয়। যদিও কন্টেন্ট জাল করার কাজটি পুরানো, ডিপফেক মেশিন লার্নিং এবং কৃত্রিম বুদ্ধিমত্তা থেকে শক্তিশালী কৌশল ব্যবহার করে প্রতারণা করার উচ্চ সম্ভাবনা সহ ভিজ্যুয়াল এবং অডিও সামগ্রী তৈরি বা তৈরি করে।
ডিপফেকগুলি প্রায়শই অস্বাভাবিক মুখের অভিব্যক্তি বা নড়াচড়া দ্বারা চিহ্নিত করা যেতে পারে, যেমন খুব ঘন ঘন পলক ফেলা বা পর্যাপ্ত নয়, বা নড়াচড়া যা খুব শক্ত বা ঝাঁকুনি। চোখ একটি ভাল নির্দেশক যে একটি ভিডিও আসল নাকি নকল। ডিপফেকগুলিতে প্রায়শই ঝাপসা বা ফোকাসহীন চোখ থাকে, বা চোখ থাকে যা ব্যক্তির মা নড়াচড়ার সাথে মেলে না।