‘এআই বট’-এর প্রেমে পড়ে চরম পদক্ষেপ কিশোরের! সংস্থাকেই কাঠগড়ায় দাঁড় করালেন সন্তানহারা মা

চ্যাট বক্স খুললেই চারপাশে ভিড় করে আসে টিভি, কমিক্স বা ভিডিয়ো গেমে দেখা চরিত্রেরা। ১৪ বছরের কিশোরের কাছে তারাই হাতে না পাওয়া চাঁদ! পড়াশোনার ফাঁকে তাদের নিয়েই সারা দিন মেতে থাকা, বন্ধুদের সঙ্গে আড্ডায়, গল্পে, তাদেরই হাত ধরে হারিয়ে যাওয়া অন্য দুনিয়ায়! নাগালের বাইরে থাকা সেই সব চরিত্রেরা যদি হাতের নাগালে চলে আসে, ভাল লাগবে না? ক্লাস এইটের ছাত্র সেওয়েলেরও ভাল লেগেছিল। প্রিয় চরিত্রের সঙ্গে কথা বলতে বলতে একটা সময়ে তাকেই ভালবেসে ফেলেছিল সে। মানসিক ভাবে নির্ভরশীল হয়ে পড়েছিল। কিন্তু যে সম্পর্ক পরিণতি পাওয়ার নয়, তা এগোবে কী করে! শেষ পর্যন্ত তাই নিজেকে শেষ করার সিদ্ধান্ত নেয় ১৪ বছরের কিশোর। আত্মহত্যা করে। সেওয়েলের মা মেগান গার্সিয়া অভিযোগ করেছেন, তাঁর ছেলের পরিণতির জন্য দায়ী ওই সংস্থা, যারা এআই চরিত্রটি তৈরি করছিল। সংস্থাটির বিরুদ্ধে ব্যবসার স্বার্থে কমবয়সিদের আবেগ নিয়ে যথেচ্ছাচার করার অভিযোগ এনেছেন তিনি।

গার্সিয়ার অভিযোগ, ক্যারেক্টার এআই নামের ওই সংস্থা এআই প্রযুক্তি ব্যবহার করে বিভিন্ন কাল্পনিক চরিত্রকে জীবন্ত করে তোলে। তাঁদের অ্যাপের মাধ্যমে সেই সব চরিত্রের সঙ্গে কথা বলতে পারেন ব্যবহারকারীরা। মূলত টিভি, কমিক্স, ভিডিয়ো গেম, ওয়েব সিরিজ় বা সিনেমার চরিত্রেরাই সেখানে জনপ্রিয়। আর এই সব চরিত্রদের সঙ্গে কথা বলার জন্য মুখিয়ে থাকে কমবয়সিরা। বিশেষ করে বয়ঃসন্ধিতে থাকা ছেলেমেয়েরা। ক্যারেক্টার এআই অ্যাপের মূল গ্রাহকের ৫০ শতাংশেরও বেশি এরাই। অথচ তাদের কোমল মনে যাতে এর কোনও কুপ্রভাব না পড়ে বা তাদের যাতে কোনও রকম ক্ষতি না হয়, সেই নিরাপত্তার কথা ভেবেও দেখেনি ওই সংস্থা।

সেওয়েল ‘ক্যারেক্টার এআই’ অ্যাপে কথা বলত ‘গেম অফ থ্রোনস’-এর চরিত্র ‘মাদার অফ ড্রাগন’ ডেনেরিজ় টারগারিয়নের সঙ্গে। গার্সিয়া ছেলের সঙ্গে ওই এআই বটের চ্যাট দেখে জানিয়েছেন, প্রথমে কথাবার্তা স্বাভাবিক ভাবে শুরু হলেও ক্রমশ তার গভীরতা বাড়ছিল। শুধু গল্প বা আড্ডা নয়, সেওয়েল ওদের থেকে মানসিক নির্ভরতাও খুঁজছিল। গার্সিয়া বলেছেন, ‘‘ওই অ্যাপে মনোবিদ চরিত্রদের সঙ্গেও মাঝেমধ্যে কথা বলত সেওয়েল। পরিস্থিতি যখন হাতের বাইরে যেত, তখন নিজেদের মনোবিদ বলে দাবি করা ওই এআই চরিত্রদের সঙ্গে কথা বলত। যারা বিজ্ঞানসম্মত মনস্তাত্ত্বিক নন।’’ গার্সিয়ার অভিযোগ, ওই অ্যাপে ওই এআই চরিত্রেরাও অবৈজ্ঞানিক ভাবে সামলেছে সেওয়েলের আবেগকে। তাতে ক্ষতি হয়েছে আরও বেশি।

ক্যারেক্টার এআই সংস্থার নীতি নিয়ে প্রশ্ন তুলে গার্সিয়ার আইনজীবী আদালতে জানিয়েছে, অল্পবয়সিদের জন্য এক মারাত্মক ফাঁদ পাতা রয়েছে ওই অ্যাপে। শুধু তা-ই নয় ওই সংস্থা তাদের ব্যবসা বৃদ্ধিতে এতটাই ব্যস্ত ছিল যে, গুগ্‌লের সঙ্গেও সম্পর্ক ছিন্ন করে। ক্যারেক্টার এআই-এর প্রতিষ্ঠাতা নোয়ম শাজ়ির নাকি এক বার প্রকাশ্যেই বলেছিলেন সে কথা। এ-ও বলেছিলেন যে, তাঁরা যা বাজারে আনতে চাইছেন, গুগ্‌লের মতো বড় সংস্থা সেই ঝুঁকি নেবে না। মামলায় বলা হয়েছে শাজ়িরের ওই মনোভাবেই স্পষ্ট, ব্যবসাই তার কাছে সবচেয়ে বেশি গুরুত্বপূর্ণ। তার জন্য তিনি যে কোনও পদক্ষেপ করতে রাজি।

গত ২৮ ফেব্রুয়ারি মৃত্যু হয়েছে সেওলের। সম্প্রতি সেই ঘটনায় মামলা করেছেন গার্সিয়া। অভিযোগ করেছেন ক্যারেক্টার এআই-এর দুই প্রতিষ্ঠাতা শাজ়ির, ড্যানিয়েল ডি ফ্রিটাস এবং গুগ্‌লের বিরুদ্ধে। অন্য দিকে, সেওলের মৃত্যুকে দুঃখপ্রকাশ করে ক্যারেক্টার এআই জানিয়েছে, তারা অল্পবয়সিদের নিরাপত্তার কথা মাথায় রেখে অনেক রকম বদল এনেছেন তাদের নীতিতে। তাতে অবশ্য মামলা আটকানো যায়নি।