Risks in AI Chatbots

চ্যাটবটে উপসর্গ লিখে ওষুধের খোঁজ করার বিপদ! কতটা ভুল তথ্য দেয় এআই, গবেষণায় অক্সফোর্ড

এআই-তে চ্যাট করে ওষুধ খান? বহু মানুষই তা করছেন। কতটা বিপদ হতে পারে, উত্তর খুঁজল অক্সফোর্ড বিশ্ববিদ্যালয়।

Advertisement
আনন্দবাজার ডট কম ডেস্ক
শেষ আপডেট: ১৫ মার্চ ২০২৬ ১৫:২২
New research suggests AI may mislead users in certain medical scenarios

এআই চ্যাটে খোঁজ করে ওষুধ খাচ্ছেন, কতটা বিপদ হতে পারে? গ্রাফিক: আনন্দবাজার ডট কম।

এআই চ্যাটবটই এখন 'চিকিৎসক'। উপসর্গ লিখে ওষুধের খোঁজ করলেই, আসছে পরামর্শ। তা কতটা সঠিক বা বেঠিক, যাচাই করার প্রয়োজনই হচ্ছে না। ধারণাটা এমন, কৃত্রিম বুদ্ধিমত্তা মানেই তা ১০০ শতাংশ ঠিক। সমীক্ষা বলছে, চিকিৎসকের পরামর্শ না নিয়ে দোকান থেকে ওষুধ কিনে খাওয়ার মতোই এখন ইন্টারনেট কিংবা চ্যাটবটের পরামর্শে ওষুধ খাওয়ার প্রবণতা ক্রমশ বাড়ছে। প্রশ্ন হল, এই পদ্ধতি কি আদৌ নিরাপদ?

Advertisement

চ্যাটবট কিছু ক্ষেত্রে সঠিক তথ্য দিলেও, অধিকাংশ ক্ষেত্রে ভুলই বেশি হচ্ছে। এমনটাই দেখেছেন অক্সফোর্ড ইউনিভার্সিটির গবেষকেরা। প্রায় ৫০ শতাংশ ক্ষেত্রেই চ্যাটবট ভুল পরামর্শ দিচ্ছে, দাবি এমনই। এর কারণটাও অদ্ভুত। গবেষক অ্যান্ড্রু বিনের ব্যাখ্যা, রোগটা ঠিক কী, বা তার উপসর্গগুলো কেমন, তা গুছিয়ে লিখতে পারেন না অনেকেই। যা লিখছেন, তার অর্থ বেশির ভাগ ক্ষেত্রেই অন্য ভাবে পৌঁছোচ্ছে চ্যাটবটের কাছে। শরীরে কী ঘটছে, তা বোঝার মতো দক্ষতা একজন চিকিৎসকেরই থাকে। চিকিৎসকের কাছে গিয়ে রোগী যখন তাঁর সমস্যার কথা বলেন, তখন চিকিৎসক আরও নানা প্রশ্ন করে উপসর্গ ও রোগের ধরন সম্পর্কে নিশ্চিত হয়ে তবেই ওষুধ দেন। সে অবকাশ চ্যাটবটের নেই। রোগী যা লিখছেন ও যতটুকু লিখছেন, তার উপর ভিত্তি করেই তাঁকে মতামত জানাতে হচ্ছে। ভুলটা হচ্ছে এখানেই।

যেমন ধরা যাক, মাথা যন্ত্রণার ওষুধের নাম জানতে গিয়ে কেউ লিখছেন, মাথা এমন ব্যথা হচ্ছে যে শয্যাশায়ী হয়ে পড়েছেন। হয়তো বিষয়টি ঠিক। কিন্তু এআই রোবট বুঝছে, যে বড় বিপদ ঘনিয়েছে। সে হয়তো পরামর্শ দিচ্ছে, দেরি না করে হাসপাতালে ভর্তি হতে। আবার কেউ যদি সঙ্কটজন অবস্থাতেও বিষয়টি লঘু করে লেখেন, তা হলে চ্যাটবট শুধু কিছু ওষুধের নাম লিখেই ছেড়ে দেবে। তাই সমস্যাটা উভয় দিকেই।

এআইয়ের সঙ্গে নিরন্তর চ্যাট করে ওষুধপত্র খেয়ে বিপদে পড়েছেন এমন উদাহরণ ভূরি ভূরি। নেট হাতড়ে নিজের চিকিৎসা নিজে করার এই অভ্যাসই এখন একটা রোগ হয়ে গিয়েছে। এর নাম ‘ইডিয়ট সিনড্রোম’। গবেষক জানাচ্ছেন, কমবয়সি ছেলেমেয়েদের মধ্যে এখন এই প্রবণতা বেশি। যদি নেট প্রযুক্তিই চিকিৎসা করতে পারত, তা হলে আর চিকিৎসকের দরকার পড়ত না। বই পড়ে বা গবেষণাপত্র দেখেই ওষুধ দিয়ে দেওয়া যেত। কিন্তু তা হয় না। রোগীকে দিনের পর দিন দেখে, উপসর্গ বুঝে, রোগের ধরন বুঝে তবেই কোনও চিকিৎসক সঠিক ভাবে চিকিৎসা করতে পারেন। প্রতিটি মানুষ একে অপরের থেকে আলাদা। তাই তাঁদের রোগের ধরন ও উপসর্গগুলিও আলাদা। চিকিৎসা পদ্ধতিও তাই এক গতে হবে না। এই সারসত্যটি বুঝতে পারছেন না অনেকেই।

করোনার সময়ে টেলিমেডিসিন ব্যবস্থা চালু হওয়ার পর থেকে এই অনলাইন কনসালট্যান্সি বা অ্যাপগুলিরও জনপ্রিয়তা বেড়েছে। টেলিমেডিসিনে ফোনের ও পারে একজন চিকিৎসক থাকেন। তিনি রোগীর বক্তব্য শোনেন। কিন্তু এ ক্ষেত্রে পুরো কাজটা এআই করে অথবা ব্যক্তি ইন্টারনেট-লব্ধ জ্ঞান নিজের মতো করে বুঝে নেন। সমস্যার সূত্রপাত এখান থেকেই হচ্ছে।

চিকিৎসা বিজ্ঞানের মতো ক্ষেত্র, যেখানে রোজ চিকিৎসা পদ্ধতি, ওষুধ বদলে যাচ্ছে, সেখানে ইন্টারনেটে কিন্তু নিয়মিত তথ্য আপডেট করা হয় না। পুরনো বা ভুল তথ্য মোছারও উপায় নেই। সে ক্ষেত্রে ঠিক, ভুল তথ্যের মধ্যে ব্যক্তি বিভ্রান্ত হতে পারেন। তাই চ্যাটবটে পুরোপুরি ভরসা না করারই পরামর্শ দিচ্ছেন গবেষকেরা।

Advertisement
আরও পড়ুন