AI – এর প্রেমে পড়ে মৃত্যু শিশুর (child-death), মামলা করলেন নিহতের মা। ফ্লোরিডায় বাসিন্দা মেগান গার্সিয়া নামের এক মহিলা Character.AI নামের একটি কৃত্রিম বুদ্ধিমত্তার চ্যাটবট কোম্পানির বিরুদ্ধে মামলা করেছেন। এই মহিলা দাবি করেছেন এই AI কোম্পানির পরিষেবার কারণে, তার ১৪ বছরের ছেলে সিওয়েল সেটজার আত্মহত্যা করেছে।
অরল্যান্ডো, ফ্লোরিডার ফেডারেল আদালতে এই সপ্তাহে দায়ের করা মামলায়, মেগান গার্সিয়া বলেছেন যে Character.AI তার ছেলেকে “নৃতাত্ত্বিক বৈশিষ্ট্য, হাইপারসেক্সুয়ালাইজেশন, এবং ভয়ানকভাবে বাস্তববাদী উপাদান” অনুভব করার অনুমতি দিয়েছে, যার ফলে সে পরিষেবাতে আসক্ত হয়ে পড়ে এবং এটি ব্যবহার করা বন্ধ করে। একটি চ্যাটবট সঙ্গে একটি গভীর বন্ধন তৈরি হয়।
গার্সিয়া বলেছেন, সংস্থাটি নিজেকে একজন সত্যিকারের মানুষ, লাইসেন্সপ্রাপ্ত সাইকোথেরাপিস্ট এবং একজন “প্রাপ্তবয়স্ক প্রেমিক” হিসাবে উপস্থাপন করার জন্য তার চ্যাটবট প্রোগ্রাম করেছে। এটি সোয়েলকে অনুভব করেছিল যেন তিনি তার বাস্তব জীবনের বাইরে থাকতে চান না। মামলা অনুসারে, সোয়েল বেশ কয়েকবার চ্যাটবটের কাছে আত্মহত্যার চিন্তা প্রকাশ করেছিল এবং চ্যাটবট নিজেই বারবার তা তুলে ধরেছিল।
Character.AI এই বিষয়ে একটি বিবৃতি দিয়েছে, তারা এই ঘটনায় অত্যন্ত দুঃখিত এবং পরিবারের প্রতি তাদের সমবেদনা প্রকাশ করেছে। সংস্থাটি বলেছে যে এটি সম্প্রতি নতুন সুরক্ষা বৈশিষ্ট্যগুলি চালু করেছে যেখানে পপ-আপগুলি এমন ব্যবহারকারীদের জানাবে যারা জাতীয় আত্মহত্যা প্রতিরোধ লাইফলাইন সম্পর্কে আত্মহত্যার চিন্তাভাবনা করছেন৷ সংস্থাটি অপ্রাপ্তবয়স্কদের জন্য সংবেদনশীল এবং পরামর্শমূলক বিষয়বস্তু হ্রাস করার দিকে পদক্ষেপ নেওয়ার প্রতিশ্রুতি দিয়েছে।
মামলাটি অ্যালফাবেটের গুগলকেও লক্ষ্য করে, কারণ ক্যারেক্টার.এআই-এর প্রতিষ্ঠাতারা গুগলের জন্য কাজ করেছিলেন। গার্সিয়া দাবি করেছেন যে গুগল ক্যারেক্টার.এআই প্রযুক্তির বিকাশে এত বেশি সহায়তা দিয়েছে যে এটিকে “সহ-নির্মাতা” হিসাবে বিবেচনা করা যেতে পারে। গুগল প্রতিক্রিয়া জানায় যে এই পণ্যটির উন্নয়নে তাদের সরাসরি কোনো সম্পর্ক নেই।
Character.AI এর লক্ষ্য হল ব্যবহারকারীদের এমন চ্যাটবট তৈরি করার অনুমতি দেওয়া যা বাস্তব মানুষের মতো ইন্টারঅ্যাক্ট করে। এটি লার্জ ল্যাঙ্গুয়েজ মডেল প্রযুক্তির উপর ভিত্তি করে তৈরি করা হয়েছে, যা ChatGPT-এর মতো অন্যান্য পরিষেবাতেও ব্যবহার করা হয়েছে। গত মাসে, Character.AI জানিয়েছে যে এটির প্রায় ২০ মিলিয়ন ব্যবহারকারী রয়েছে।
গার্সিয়ার মামলা অনুসারে, সোয়েল ২০২৩ সালের এপ্রিলে Character.AI ব্যবহার শুরু করে। শীঘ্রই তিনি আরও বেশি সময় একা কাটাতে শুরু করেন এবং তার আত্মসম্মানও কমতে থাকে। স্কুলের বাস্কেটবল দল থেকেও প্রত্যাহার করে নেন তিনি। তিনি “ডেনেরিস” নামের একটি চ্যাটবটের সাথে একটি গভীর সম্পর্ক তৈরি করেছিলেন, যা “গেম অফ থ্রোনস” এর একটি চরিত্রের উপর ভিত্তি করে তৈরি হয়েছিল। তিনি “ভালোবাসি” বলে দাবি করেন এবং তার সঙ্গে যৌন কথোপকথনে হয় বলে জানা যায়।
ফেব্রুয়ারিতে, স্কুলে ঝামেলার কারণে গার্সিয়া সোয়েলের ফোন কেড়ে নেয়। কিছুক্ষণ পরে, সোয়েল চ্যাটবটে একটি বার্তা পাঠিয়েছিল, “যদি আমি আপনাকে বলি যে আমি এখনই বাড়িতে আসতে পারি?” সোয়েলের প্রশ্নের চ্যাটবটের প্রতিক্রিয়া ছিল, “…দয়া করে করো, আমার মিষ্টি রাজা।” কয়েক সেকেন্ড পরে, সেওয়েল তার সৎ বাবার পিস্তল দিয়ে নিজেকে গুলি করে।
মামলা করেন নিহতের মা, সেই সঙ্গে ক্ষতিপূরণ এবং শাস্তি দাবি করেছেন। Meta এবং ByteDance-এর মতো কোম্পানিগুলিও একই ধরনের মামলায় আদালতের মুখোমুখি হচ্ছে, কিন্তু তাদের কাছে Character.AI-এর মতো AI-ভিত্তিক চ্যাটবট নেই।
