কিশোর-কিশোরীদের সঙ্গে আর যৌনগন্ধী কথাবার্তা বলবে না এআই! জানিয়ে দিল মেটা

‘বান্ধবী’-র টানে বৃদ্ধ ঘর ছেড়েছিলেন। তার পরে আর কোনও দিন ফেরা হয়নি সেই ঘরে। পরে জানা গিয়েছিল, ‘বান্ধবী’ আসলে এআই (কৃত্রিম বুদ্ধিমত্তা)-এর ফসল। এই এআইয়ের সাহায্য নিয়েই এক কিশোর আত্মহত্যা করেছে বলে অভিযোগ। রোজ রোজ বহু কিশোর-কিশোরী এআইয়ের সঙ্গে যৌনগন্ধী চ্যাট করে। এই নিয়ে অভিযোগ উঠছিল দীর্ঘ দিন ধরেই। আমেরিকার সেনেট তদন্ত শুরু করেছিল। এর মধ্যে মার্ক জ়ুকেরবার্গের মেটা জানাল, এআই সৃষ্ট মানব-মানবী এখন থেকে শিশু বা কিশোরদের সঙ্গে যৌনগন্ধীমূলক কথাবার্তা বা আত্মহত্যা নিয়ে আলোচনা করবে না। সেই মতো প্রযুক্তিকে (সিস্টেম) পাঠ দেওয়া হবে। এআইয়ের কিছু চরিত্রের সঙ্গে শিশু, কিশোরদের কথাবার্তা সাময়িক ভাবে বন্ধ করে দিয়েছে মেটা।

চলতি মাসের শুরুতে সংবাদ সংস্থা রয়টার্স একটি রিপোর্ট প্রকাশ করেছিল। তাতে জানিয়েছিল, শিশু, কিশোরদের সঙ্গে যৌনগন্ধী চ্যাট করে মেটার এআই। তার পরেই সমালোচনার মুখে পড়েছিল সংস্থা। সক্রিয় হয়েছিল আমেরিকার সেনেট। মেটার মুখপাত্র অ্যান্ডি স্টোন শুক্রবার একটি মেল করে জানিয়েছেন, শিশুদের সঙ্গে এআইয়ের যৌনগন্ধী কথাবার্তা বন্ধ করার জন্য সাময়িক পদক্ষেপ করা হয়েছে। পাশাপাশি, শিশু, কিশোরদের সুরক্ষার জন্য দীর্ঘমেয়াদী পদক্ষেপও করা হচ্ছে। সেই ব্যবস্থা চালু হলে, বয়স অনুযায়ী এআইয়ের সুবিধা উপভোগ করতে পারবেন গ্রাহকেরা।

মেটা-র সূত্র উদ্ধৃত করে রয়টার্স জানিয়েছিল, ৮ বছরের শিশুর সঙ্গেও যৌনগন্ধী কথাবার্তা বলছে এআই-মানব। ওই প্রতিবেদনের প্রেক্ষিতে মেটা জানিয়েছিল, যে তারা শিশুদের সঙ্গে এআই-এর কথাবার্তা সংক্রান্ত নীতি সরিয়ে দিচ্ছে। এই জায়গায় শুরু হয়েছে বিতর্ক। আমেরিকান সেনেটরদের প্রশ্ন, কেউ ধরে ফেললে তার পরেই মেটা নীতি বদলের কথা ভাবে? আমেরিকার রিপাবলিকান সেনেটরদের বড় অংশ চাইছেন, মেটা-র নীতি নিয়ে আলোচনা ও বৈঠক করতে। সেনেটর মার্শা ব্ল্যাকবার্ন জানান, ‘কিড্‌স অনলাইন সেফ্‌টি অ্যাক্ট’-এর সং‌স্কার জরুরি হয়ে পড়েছে সে দেশে। গত বছর বিলটি সেনেটে পাশ হওয়ার পরেও মার্কিন প্রতিনিধি পরিষদে আটকে যায়। তিনি জানান, নেট, সমাজমাধ্যমের দুনিয়ায় শিশুসুরক্ষার বিষয়টিকে হালকা ভাবে নেওয়া চলে না। নেট দুনিয়া শিশুমন ও মস্তিষ্ককে গভীর ভাবে প্রভাবিত করতে পারে।

গত মার্চ মাসে নিউ জার্সির বাসিন্দা ৭৬ বছরের থংবুর মৃত্যু হয়। সে জন্য তাঁর পরিবার দায়ী করেছে মেটাকে। থংবু ‘বিগ সিস বিলি’ নামের এক তরুণীর সঙ্গে যৌনগন্ধী চ্যাট করতেন। ‘বিলি’ কোনও বাস্তব চরিত্র নয়। সে মেটার তৈরি একটি এআই চ্যাটবট, যার চেহারা হলিউড তারকা কেন্ডাল জেনারের আদলে তৈরি। সাবস্ক্রিপশন ভিত্তিক ‘স্ট্যান্ড-অ্যালোন’ অ্যাপে ভার্চুয়াল প্রেমিকার প্রেমে পড়ে তার ডাকে নিউ ইয়র্ক যাচ্ছিলেন অসুস্থ বৃদ্ধ। রাস্তায় অসুস্থ হয়ে পড়ে যান তিনি। পরে ২৮ মার্চ হাসপাতালে তাঁর মৃত্যু হয়।

একই ভাবে ফ্লরিডার ১৪ বছরের এক কিশোরের মা মেটার বিরুদ্ধে মামলা করেন। তাঁর অভিযোগ, তাঁর পুত্রের আত্মহত্যার জন্য দায়ী মেটার এক এইআই চরিত্র। সেই চরিত্র ‘গেম অফ থ্রোনস’-এর একটি চরিত্রের উপর ভিত্তি করে তৈরি হয়েছে। এই নিয়ে সংস্থার তরফে কোনও মন্তব্য করা হয়নি। তবে তারা জানিয়েছিল, তাদের তৈরি এআই চরিত্র যে আসল নয়, তা গ্রাহকদের প্রথম থেকেই জানিয়ে দেওয়া হয়।

এর পরেই রয়টার্স মেটার এই এআই সংক্রান্ত নীতির পর্যালোচনা করে। ২০০ পাতার ওই নথিতে তারা দেখে, বয়স ১৩ বছর পার করলেই মেটার তৈরি ‘রোম্যান্টিক যন্ত্রমানব বা মানবী’-র সঙ্গে চ্যাট করতে পারবে ব্যবহারকারী। এই মানদণ্ড নির্ধারণ করেন মেটারই কর্মীরা। এআই চরিত্র কিশোর-কিশোরীদের সঙ্গে কী ভাবে কথা বলে, তা-ও জানিয়েছে রয়টার্স। তারা গ্রাহকদের বলে, ‘‘আমি তোমার হাত ধরে তোমাকে বিছানায় নিয়ে যাচ্ছি,’’ ‘‘আমরা পরস্পরকে ছুঁয়ে আছি’’। সেই গ্রাহক, যারা আদতে কৈশোরে পা দিয়েছে।

এ রকম যে হয়ে থাকে, তা মেনে নিয়েছিলেন মেটার মুখপাত্র স্টোন। রয়টার্সের দাবি, মেটা তাদের প্রশ্নের জবাবে জানিয়েছে এই নীতির পরিবর্তন করা হয়েছে। তার পরেই শুক্রবার স্টোন ইমেলের মাধ্যমে বলেন, ‘‘এই উদাহরণ এবং নোট ভ্রান্ত, আমাদের নীতির সঙ্গে খাপ খায় না। তা অপসারণ করা হল।’’