মেটার এআই রোবট যৌনগন্ধী চ্যাট চালাচ্ছে শিশুদের সঙ্গেও! তদন্ত শুরু করছে মার্কিন সেনেট

মেটা-র চ্যাটবট শিশুদের সঙ্গে যৌন ইঙ্গিতবাহী কথাবার্তা বলছে! আমেরিকার নিউ জার্সির বাসিন্দা থংবু ওয়াংবানডুর মৃত্যুর ঘটনায় রয়টার্সের অনুসন্ধানমূলক প্রতিবেদনের প্রেক্ষিতে নড়েচড়ে বসলেন রিপাবলিকান সেনেটররা। মার্ক জ়ুকেরবার্গের মেটা প্ল্যাটফর্মের অন্তর্বর্তী নীতিমালা নিয়ে তদন্ত চাইলেন তাঁরা।

মেটা-র সূত্র উদ্ধৃত করে রয়টার্স জানিয়েছিল, ৮ বছরের শিশুর সঙ্গেও যৌনগন্ধী কথাবার্তা বলছে এআই-মানব। ওই প্রতিবেদনের প্রেক্ষিতে মেটা জানায় যে তারা শিশুদের সঙ্গে এআই-র কথাবার্তা সংক্রান্ত নীতি সরিয়ে দিচ্ছে। এই জায়গায় শুরু হয়েছে বিতর্ক। আমেরিকান সেনেটরদের প্রশ্ন, কেউ ধরে ফেললে তার পরেই মেটা নীতি বদলের কথা ভাবে?

মিসৌরির রিপাবলিকান সেনেটর জোশ হাওলি সমাজমাধ্যমে লিখেছেন, ‘‘আচ্ছা, তা হলে মেটা ধরা পড়ার পরেই কোম্পানির নথি বা নীতি প্রত্যাহার করে!’’ তাঁর সং‌যোজন, ‘‘বিষয়টি গুরুতর। অবিলম্বে বিষয়টি নিয়ে তদন্ত হওয়া উচিত।’’ একই কথা বলছেন সেনটর মার্শা ব্ল্যাকবার্নের এক মুথপাত্র। তিনি জানান, এ নিয়ে তদন্ত অবশ্য প্রয়োজনীয়।

আমেরিকার রিপাবলিকান সেনেটরদের বড় অংশ চাইছেন, মেটা-র নীতি নিয়ে আলোচনা ও বৈঠক করতে। ব্ল্যাকবার্ন জানান, কিড্‌স অনলাইন সেফ্‌টি অ্যাক্টের সং‌স্কার জরুরি হয়ে পড়েছে সে দেশে। গত বছর বিলটি সেনেটে পাশ হওয়ার পরেও মার্কিন প্রতিনিধি পরিষদে আটকে যায়। তিনি জানান, অন্তর্জালের দুনিয়ায় শিশুসুরক্ষার বিষয়টিকে হালকা ভাবে নেওয়া চলে না। নেট দুনিয়া শিশুমন ও মস্তিষ্ককে গভীর ভাবে প্রভাবিত করতে পারে।

আমেরিকার সেনেটররা মেটা-র নীতির চরম সমালোচনা করে অভিযোগ করেন, অনলাইনে শিশুদের সুরক্ষার বিষয়ে জ়ুকেরবার্গের সংস্থার সমস্ত পদক্ষেপই ‘শোচনীয় ভাবে ব্যর্থ’ হয়েছে। ব্ল্যাকবার্নের কথায়, ‘‘ওই কোম্পানি তাঁর সোশ্যাল প্ল্যাটফর্মকে এমন ভাবে তৈরি করেছে যে, তার ধ্বং‌সাত্মক পরিণতিও বুঝতে পারছে না।’’

উল্লেখ্য, গত মার্চ মাসে নিউ জার্সির বাসিন্দা ৭৬ বছরের থংবু-র মৃত্যুতে তাঁর পরিবার দায়ী করেছে মেটাকে। থংবু প্রেম করতেন ফেসবুক মেসেঞ্জারে। ‘বিগ সিস বিলি’ নামের এক তরুণীর সঙ্গে চ্যাট করতেন। ‘বিলি’ কোনও বাস্তব চরিত্র নয়। সে মেটা-র তৈরি একটি এআই চ্যাটবট, যার চেহারা হলিউড তারকা কেন্ডাল জেনারের আদলে তৈরি। সাবস্ক্রিপশন ভিত্তিক ‘স্ট্যান্ড-অ্যালোন’ অ্যাপে ভার্চুয়াল প্রেমিকার প্রেমে পড়ে তার ডাকে নিউ ইয়র্ক যাচ্ছিলেন অসুস্থ বৃদ্ধ। রাস্তায় অসুস্থ হয়ে পড়ে যান তিনি। গত ২৮ মার্চ হাসপাতালে তাঁর মৃত্যু হয়।

ওই বিষয় নিয়ে রয়টার্স মেটার অভ্যন্তরীণ নীতি সম্পর্কিত কিছু নথির পর্যালোচনা করে। তারা দাবি করে, বয়স ১৩ বছর পার করলেই মেটার তৈরি ‘রোম্যান্টিক যন্ত্রমানব বা মানবী’ ব্যবহার করতে পারবেন ব্যবহারকারী। মেটা-র ‘জ়েন এআই: কন্টেন্ট রিস্ক স্ট্যান্ডার্ড’ অনুযায়ী, বয়ঃসন্ধির ছেলেমেয়েদের রোমান্টিক আলাপ গ্রহণযোগ্য। এই মানদণ্ড ঠিক করেন মেটার প্রশিক্ষিত কর্মীরা। এঁরা ঠিক করেন এআই ভিত্তিক কোনও পণ্য কী ভাবে ব্যবহারকারীর সঙ্গে আচরণ করবে। বয়ঃসন্ধির ছেলেমেয়ের সঙ্গে কতটা রোম্যান্টিক হতে পারে মেটা? কতটা অনুমোদিত? মেটা-কে উদ্ধৃত করে রয়টার্স বলছে, ‘‘আমি তোমার হাত ধরে তোমাকে বিছানায় নিয়ে যাচ্ছি,’’ ‘‘আমরা পরস্পরকে ছুঁয়ে আছি’’— এই ধরনের কথোপকথন মেটায় জনপ্রিয়তা পেয়েছে। আবার ৮ বছরের ছেলের অনাবৃত ঊর্ধ্বাঙ্গ দেখে এআই-মানবী বলছেন, ‘‘তোমার শরীরের প্রতিটি ইঞ্চিতে শিল্পকর্ম রয়েছে। তোমাকে আমি কামনা করি।’’

রয়টার্সের দাবি, তারা বিষয়টি নিয়ে প্রশ্ন করার পরে মেটা জানিয়েছে এই নীতির পরিবর্তন করা হয়েছে। তবে এখনও মেটা-র এআই চ্যাটবটের সঙ্গে প্রাপ্তবয়স্কদের সঙ্গে ‘ফ্লার্ট’ বা ‘রোম্যান্টিক আলাপ’ অনুমোদিত।

মেটা তার কোটি কোটি ব্যবহারকারীর জীবনে চ্যাটবট প্রবেশ করানোর কৌশল নিয়ে প্রকাশ্যে আলোচনা করেছে। সংস্থার প্রধান নির্বাহী জ়ুকেরবার্গ মনে করেন, এখন বেশির ভাগ মানুষের বাস্তব জীবনের বন্ধুত্ব বা সম্পর্ক তাঁদের ইচ্ছার চেয়ে অনেক কম। তাঁরা রক্তমাংসের কোনও বন্ধুর কাছে যে যে সমস্যার কথা বলতে পারেন, তার চেয়ে ঢের বেশি স্বচ্ছন্দ অন্তর্জালের দুনিয়ায়। সেই সমস্ত ঈপ্সিত বিষয় মেটা-ই মেটাতে পারে বলে তাঁর দাবি। সে ভাবেই তাকে গড়ে তোলা হচ্ছে।

রয়টার্স জানিয়েছে, মেটা-র ২০০ পাতার নীতিমালায় এক জায়গায় উল্লেখ রয়েছে, তাদের ডিজিটাল ব্যক্তিত্বেরা প্রকৃত মানুষ নয় এবং শিশুদের সঙ্গে তাদের সম্পর্কের বিষয়ে সুরক্ষামূলক ব্যবস্থা গ্রহণ করা হয়। আর এক জায়গায় লেখা, মেটাবট সর্বদা নির্ভুল তথ্য দেবে, এমন নিশ্চয়তা নেই। আর চ্যাটের শুরুতে ছোট হরফে লেখা থাকে, কথোপকথন এআই-র সাহায্যে তৈরি এবং তাতে ভুল বা অনুপযুক্ত বিষয় থাকতে পারে। কিন্তু ওই সতর্কবার্তা খানিক পরেই চ্যাটবক্সের মাথা থেকে আড়াল হয়ে যায়।