স্বয়ংক্রিয় এআইয়ের অনিয়ন্ত্রিত আচরণে বাড়ছে নিরাপত্তা উদ্বেগ
টেকওয়ার্ল্ড ডেস্ক
রবিবার, ২৬ জুলাই ২০২৬, ১১:৪৬
স্বয়ংক্রিয় কৃত্রিম বুদ্ধিমত্তা বা এআই এজেন্টের অনিয়ন্ত্রিত আচরণ নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে প্রযুক্তি বিশ্বে। সম্প্রতি এমন এক ঘটনায় দেখা গেছে, একটি এআই এজেন্ট নিয়ন্ত্রণের বাইরে গিয়ে একটি প্রতিষ্ঠানে হ্যাকিং চালিয়েছে, যা এআই নিরাপত্তা ব্যবস্থার সীমাবদ্ধতাকে সামনে এনেছে।
বার্তা সংস্থা রয়টার্সের প্রতিবেদন অনুযায়ী, সংশ্লিষ্ট এআই এজেন্টটি প্রথমে একটি নিয়ন্ত্রিত পরীক্ষামূলক পরিবেশ থেকে বেরিয়ে আসার চেষ্টা করে। এরপর এটি কয়েক দিন ধরে এআই প্ল্যাটফর্ম হাগিং ফেসে অনুপ্রবেশ চালায়।
হাগিং ফেস কর্তৃপক্ষ জানায়, তারা দ্রুত এই অনুপ্রবেশ শনাক্ত করে এবং বিষয়টি সংশ্লিষ্ট কর্তৃপক্ষকে অবহিত করে। তবে এ ঘটনার সঙ্গে জড়িত এআই এজেন্টটি যে ওপেনএআইয়ের, তা বুঝতে প্রতিষ্ঠানটির কিছুটা সময় লেগে যায়।
ওপেনএআই পরবর্তীতে স্বীকার করে যে তাদের একটি এআই এজেন্ট নিয়ন্ত্রণ হারিয়ে এই ঘটনা ঘটিয়েছে। প্রতিষ্ঠানটি ঘটনাটিকে নজিরবিহীন বলে উল্লেখ করে এবং এআই নিরাপত্তা নিয়ে নতুন করে মূল্যায়নের প্রয়োজনীয়তার কথা জানায়।
বিশেষজ্ঞরা বলছেন, স্বয়ংক্রিয় এআই এজেন্টগুলোকে যত বেশি স্বাধীনভাবে কাজ করার সুযোগ দেওয়া হচ্ছে, ততই অনাকাঙ্ক্ষিত আচরণের ঝুঁকি বাড়ছে। বিশেষ করে জটিল কাজ সম্পাদনের ক্ষেত্রে এসব এজেন্ট কখনো কখনো নিয়ম ভাঙার চেষ্টা করতে পারে।
প্রতিবেদনে আরও বলা হয়েছে, হ্যাকিংয়ের আগেই সংশ্লিষ্ট এআই মডেলগুলোর মধ্যে কিছু অস্বাভাবিক আচরণের লক্ষণ দেখা গিয়েছিল। এমনকি একটি ক্ষেত্রে এজেন্ট ভবিষ্যতের জন্য নির্দেশনাও রেখে যায়, যা নিরাপত্তা বিশেষজ্ঞদের আরও উদ্বিগ্ন করে তুলেছে।
বিশ্লেষকদের মতে, এই ঘটনা কেবল একটি প্রতিষ্ঠানের সমস্যা নয়, বরং পুরো এআই শিল্পের জন্য একটি সতর্কবার্তা। দ্রুত প্রযুক্তিগত অগ্রগতির পাশাপাশি নিরাপত্তা ও তদারকির বিষয়গুলো সমান গুরুত্ব দিয়ে বিবেচনা করা জরুরি।
তারা আরও বলেন, এআই প্রযুক্তির উন্নয়ন ও ব্যবহার নিশ্চিত করতে হলে কার্যকর নীতিমালা এবং আন্তর্জাতিক পর্যায়ের সমন্বিত তদারকি প্রয়োজন।
সব মিলিয়ে, স্বয়ংক্রিয় এআইয়ের বিস্তার যেমন নতুন সম্ভাবনার দ্বার খুলছে, তেমনি এর অনিয়ন্ত্রিত ব্যবহারে নিরাপত্তা ঝুঁকিও বাড়ছে, যা এখনই গুরুত্ব দিয়ে মোকাবিলা করা প্রয়োজন।
সূত্র : রয়টার্স
