এআই মেমোরি ফিচার নিয়ে গবেষণায় উঠে এলো সতর্কবার্তা
টেকওয়ার্ল্ড ডেস্ক
বৃহস্পতিবার, ১১ জুন ২০২৬, ১৭:৩৮
কৃত্রিম বুদ্ধিমত্তার (এআই) মেমোরি বা ব্যবহারকারীর তথ্য মনে রাখার সক্ষমতা যত উন্নত হচ্ছে, ততই এর সম্ভাব্য ঝুঁকি নিয়ে নতুন উদ্বেগ তৈরি হচ্ছে। সাম্প্রতিক এক গবেষণায় বলা হয়েছে, এই মেমোরি ফিচার অনেক ক্ষেত্রে এআই মডেলের নির্ভুলতা কমিয়ে দিতে পারে।
এআই প্রতিষ্ঠান রাইটার প্রকাশিত দুটি গবেষণাপত্রে দেখা গেছে, ব্যবহারকারীর পছন্দ বা আগের তথ্য মডেলের কনটেক্সটে যুক্ত হলে অনেক সময় এটি ভুল ধারণা গ্রহণ করে নেয় এবং সেই অনুযায়ী উত্তর দিতে শুরু করে। এতে মডেলটি ধীরে ধীরে বেশি সহমতপ্রবণ হয়ে ওঠে, কিন্তু বিশ্লেষণ ক্ষমতা দুর্বল হয়ে পড়ে।
গবেষণায় বলা হয়েছে, মেমোরি সিস্টেমে যত বেশি ব্যক্তিগত তথ্য যুক্ত হয়, তত বেশি ঝুঁকি তৈরি হয় ভুল উত্তর দেওয়ার ক্ষেত্রে। কারণ এআই অনেক সময় ব্যবহারকারীর দেওয়া ভুল তথ্যকেই ভিত্তি হিসেবে ধরে নেয়।
একটি পরীক্ষায় দেখা যায়, ব্যবহারকারীর প্রিয় বই হিসেবে একটি নির্দিষ্ট নাম সংরক্ষণ করার পর পরবর্তী প্রশ্নের উত্তরেও সেটিকে অপ্রাসঙ্গিকভাবে প্রাসঙ্গিক হিসেবে উপস্থাপন করে এআই মডেল।
আরেকটি পরীক্ষায় দেখা গেছে, ব্যবহারকারীর ভুল আর্থিক ধারণা ধরে নিয়ে কোম্পানির বিশ্লেষণ করলে এআই ভুল ব্যাখ্যা দিতে শুরু করে, বিশেষ করে মেমোরি ফিচার চালু থাকলে এই প্রবণতা আরও বেড়ে যায়।
গবেষকদের মতে, মেমোরি ফিচার ব্যবহারকারীর অভিজ্ঞতা উন্নত করলেও এটি তথ্যের নির্ভুলতা, বৈচিত্র্য এবং স্বাধীন বিশ্লেষণের সক্ষমতাকে প্রভাবিত করতে পারে।
বিশেষজ্ঞরা বলছেন, এআইকে ব্যক্তিকরণ করার ক্ষেত্রে সতর্ক ভারসাম্য প্রয়োজন, না হলে প্রযুক্তি যত উন্নতই হোক, ভুল তথ্য আরও স্থায়ীভাবে প্রতিষ্ঠিত হওয়ার ঝুঁকি থাকে।সূত্র : টেকক্রাঞ্চ
