কোনো প্রশ্নের উত্তর জানা না থাকলেও ভুল তথ্য দেয় এআই চ্যাটবট

চ্যাটজিপিটি, জেমিনির মতো উন্নত চ্যাটবটকে প্রশ্ন করলে মুহূর্তেই ব্যাখ্যাসহ উত্তর পাওয়া যায়। প্রযুক্তির সঙ্গে তাল মিলিয়ে কর্মক্ষেত্রে বা পড়াশোনায় যেকোনো সমস্যার সমাধানে কৃত্রিম বুদ্ধিমত্তা বা এআইয়ে নির্ভরশীলতা এবং চ্যাটবটের অধিকাংশ উত্তরে বিশ্বাস রাখার প্রবণতা দিন দিন বেড়েই চলেছে।

এটা ঠিক যে এআই মডেলগুলো যত উন্নত হচ্ছে তত নির্ভুলতার হার বাড়ছে। পাশাপাশি সক্ষমতার বাইরেও প্রশ্নের উত্তর দিচ্ছে। প্রশ্ন করলে উত্তর জানি না বলতে উন্নত চ্যাটবটগুলোকে সচরাচর দেখা যায় না। ফলে ভুল তথ্যের মাধ্যমে বিভ্রান্তির সম্ভাবনা থেকেই যাচ্ছে। সম্প্রতি এক গবেষণায় বিষয়টি উঠে এসেছে।  

স্পেনের ইউনিভার্সিটি পলিটেকনিকা ডি ভ্যালেন্সিয়ার অধ্যাপক হোসে হার্নান্দেজ-ওরালো নেচার সাময়িকীকে বলেন, ‘আজকাল তারা (এআই চ্যাটবট) প্রায় সবকিছুর উত্তর দিচ্ছে। এতে যেমন আরো নির্ভুল উত্তর পাওয়া যাচ্ছে, পাশাপাশি ভুল উত্তরও থাকছে।’

এর আগেও বেশকিছু প্রতিবেদনে দেখা গেছে, জিপিটি ফোরও কিংবা ক্লডের মতো উন্নত এআই সিস্টেমকে যদি প্রশ্ন করা হয় যে ইংরেজি স্ট্রবেরি বানানে কয়টি আর অক্ষর আছে, তারা বলছে দুটি। অথচ স্ট্রবেরি শব্দে আর তিনবার দেখা যায়। স্পেনের ভ্যালেন্সিয়ান রিসার্চ ইনস্টিটিউট ফর আর্টিফিশিয়াল ইন্টেলিজেন্সে হার্নান্দেজ-ওরালোর নেতৃত্বে গবেষণা পরিচালনা করা হয়। গবেষণা প্রতিবেদনটি নেচার সাময়িকীতে প্রকাশ হয়েছে।

দলটি ওপেনএআইয়ের জিপিটি সিরিজ, মেটার এলএলএএমএ ও ওপেন সোর্স ব্লুম নামের তিনটি লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম) নিয়ে গবেষণা করেছে। তারা এলএলএমের আগের সংস্করণ থেকে শুরু করে পর্যায়ক্রমে উন্নত সংস্করণগুলো পরীক্ষা করে দেখেছে। তবে চ্যাটজিপিটি-ফোরও ও ওপেনএআই ওওয়ানের মতো সর্বশেষ সংস্করণগুলো গবেষণায় অন্তর্ভুক্ত করা হয়নি।

এলএলএমগুলোকে পাটিগণিত, অ্যানাগ্রাম, ভূগোল ও বিজ্ঞান সম্পর্কে কয়েক হাজার প্রশ্ন করে পরীক্ষা করেছেন গবেষকরা। বর্ণানুক্রমিক সাজানোসহ আরো বেশকিছু নির্দেশনার মাধ্যমে এআই মডেলগুলোর সক্ষমতা যাচাই করা হয়েছে। তারা দেখতে পান, প্রশ্ন করা হলে উত্তর না এড়িয়ে ভুল উত্তরও দিয়েছে চ্যাটবট। উত্তর জানা নেই, তা কখনো জানায়নি।

এআই ডেভেলপারদের হার্নান্দেজ-ওরালোর পরামর্শ, সহজ প্রশ্নের উত্তরে সক্ষমতা আরো বাড়াতে হবে এবং জটিল প্রশ্নের ক্ষেত্রে উত্তর দিতে না পারলে তা জানাতে হবে।

তিনি বলেন, ‘এআই চ্যাটবটের উত্তর কোন ক্ষেত্রে ব্যবহার করা যাবে আর কোন উত্তর ব্যবহার করা যাবে না তা আমাদের অর্থাৎ মানুষকেই বুঝতে হবে।’

বিশেষজ্ঞদের মতে, লার্জ ল্যাংগুয়েজ মডেল (এলএলএম) প্রকৃতপক্ষে মানুষের মতো টেক্সট পড়তে ও বুঝতে পারে না। তারা টেক্সটকে সংখ্যাসূচক কোডে রূপান্তরের মাধ্যমে প্রক্রিয়া ও প্রতিক্রিয়া তৈরি করে সে কোডগুলো ব্যবহার করে। ফলে মডেলগুলো অসংখ্য ডাটা দ্রুত পরিচালনার জন্য ডিজাইন করা হলেও কখনো অপ্রত্যাশিত উপায়ে ব্যর্থ হতে পারে। সূত্র: এনগ্যাজেট।