গ্রাহকদের হিন্দিতে গালি দিচ্ছে এক্স-এর কৃত্রিম মেধা ‘গ্রোক’! অভিযোগ পেয়ে কেন্দ্রের নজরে মাস্কের সংস্থা

হিন্দি কুকথা ব্যবহার করছে ইলন মাস্কের সংস্থা এক্স-এর এআই চ্যাটবট ‘গ্রোক’। হিন্দিতে গালিগালাজও করছে গ্রাহকদের! এমন অভিযোগ ওঠার পর কেন্দ্রের নজরে ইলন মাস্কের সংস্থা। সূত্রকে উদ্ধৃত করে তেমনটাই দাবি করা হয়েছে ইন্ডিয়া টুডের প্রতিবেদনে। এই ধরনের উস্কানিমূলক শব্দের ব্যবহার নিয়ে উদ্বেগ প্রকাশ করে তথ্য ও প্রযুক্তি মন্ত্রক এক্স-এর সঙ্গে যোগাযোগ করছে বলে খবর। কেন্দ্রের তরফ পুরো বিষয়টি খতিয়ে দেখা হবে বলে জানা গিয়েছে।

চ্যাটজিপিটি এবং গুগ্‌লের জেমিনির মতো মূলধারার এআই মডেলের বিকল্প হিসাবে ২০২৩ সালে কৃত্রিম মেধা ‘গ্রোক’ তৈরি করেছে মাস্কের সংস্থা। পরে গ্রোককে এক্স-এর সঙ্গে জুড়ে দেওয়া হয়, যা সারা বিশ্বের পাশাপাশি ভারতীয় নেটাগরিকদেরও দৃষ্টি আকর্ষণ করেছে। তবে অভিযোগ, ‘গ্রোক’-এ কোনও কিছু নিয়ে খোঁজ চালানোর সময় অকথ্য এবং উস্কানিমূলক হিন্দি শব্দ ব্যবহার করে প্রতিক্রিয়া জানাচ্ছে কৃত্রিম মেধা। এক্স-এর চ্যাটবট ব্যবহার করার সময় ‘গ্রোক’ গ্রাহকদের অশ্লীল এবং আপত্তিকর শব্দে গালাগালাজ করছে বলেও অভিযোগ।

সম্প্রতি এক জন এক্স ব্যবহারকারী এবং ‘গ্রোক’-এর কথোপকথনের পোস্ট ভাইরাল হওয়ার পর বিষয়টি প্রকাশ্যে আসে। ব্যবহারকারী কৃত্রিম মেধার কাছে একটি বিষয়ে জানতে চাইলে চ্যাটবট তাৎক্ষণিক ভাবে উত্তর দিতে ব্যর্থ হয়। এর পর ব্যবহারকারী কড়া ভাষায় প্রতিক্রিয়া জানান। পাল্টা ‘গ্রোক’ও অশ্লীল ভাষায় প্রতিক্রিয়া জানানোয় হতবাক হয়ে যান ওই ব্যবহারকারী। অতঃপর এ রকম আরও কয়েকটি অভিযোগ প্রকাশ্যে আসার পর বিষয়টি নিয়ে আলোচনা শুরু হয়েছে। আর তা নিয়েই নাকি নড়েচড়ে বসেছে কেন্দ্র। এ প্রসঙ্গে সরকারি সূত্র ইন্ডিয়া টুডেকে জানিয়েছে, ‘‘কেন এমনটা ঘটছে এবং কী সমস্যা হয়েছে, তা জানতে আমরা এক্স-এর সঙ্গে কথা বলছি। ওরাও আমাদের সঙ্গে যোগাযোগ করেছে।’’

উল্লেখ্য, সম্প্রতি রাইলি গুডসাইড নামে এক জন কৃত্রিম মেধা গবেষক ‘গ্রোক’-এর প্রতিক্রিয়ার একটি ভিডিয়ো ক্লিপ শেয়ার করেন। সেখানে দেখা যায় চ্যাটবটকে বার বার বাধা দেওয়ার পর, ‘গ্রোক’ মানুষের গলা নকল করে চিৎকার করে এবং রাইলিকে অপমান করে কথোপকথন থামিয়ে দেয়।