সাইবার ঝুঁকি মোকাবিলায় নিরাপত্তা জোরদার করছে ওপেনএআই
টেকওয়ার্ল্ড ডেস্ক
বুধবার, ১৯ আগস্ট ২০২৬, ১৩:০২
কৃত্রিম বুদ্ধিমত্তা মডেল পরীক্ষার সময় নিরাপত্তা ঝুঁকি নিয়ন্ত্রণে নতুন একগুচ্ছ নীতিমালা ঘোষণা করেছে ওপেনএআই। গতকাল (১৮ আগস্ট) ঘোষিত এসব ব্যবস্থার মধ্যে রয়েছে মডেল উন্নয়ন পর্যায়ে আরও বিস্তারিত নজরদারি এবং প্রশিক্ষণ-পরবর্তী ধাপে নিরাপত্তা ও অ্যালাইনমেন্টের ওপর বাড়তি গুরুত্ব।
এক ব্লগ পোস্টে ওপেনএআই বলেছে, মডেলের সক্ষমতা বাড়ার সঙ্গে সঙ্গে সেগুলো তৈরি ও পরীক্ষার সময় অভ্যন্তরীণ ঝুঁকিও বাড়ছে। তাই নজরদারি, অ্যালাইনমেন্ট ও নিরাপত্তা মানদণ্ডকে এসব ঝুঁকির চেয়ে এগিয়ে রাখতে হবে।
গত ২১ জুলাই প্রকাশ্যে আসা হাগিং ফেস নিরাপত্তা ঘটনার পর ওপেনএআইয়ের নিরাপত্তা চর্চায় এটিই প্রথম বড় ধরনের পরিবর্তন। যদিও প্রতিষ্ঠানটির কর্মকর্তারা বলেছেন, নতুন নীতিমালা সরাসরি ওই ঘটনার প্রতিক্রিয়া নয়। আসন্ন অ্যাস্ট্রা মডেলের সাইবার সক্ষমতা এবং কৃত্রিম বুদ্ধিমত্তা উন্নয়নের দ্রুত গতিও এ সিদ্ধান্তে ভূমিকা রেখেছে।
একই পোস্টে ওপেনএআই জানিয়েছে, হাগিং ফেস ঘটনার পর তারা দুই সপ্তাহের জন্য রিইনফোর্সমেন্ট লার্নিং (আরএল) প্রশিক্ষণ স্থগিত করেছিল। পরে তুলনামূলক কম ঝুঁকির মডেলগুলোর প্রশিক্ষণ আবার শুরু করা হয়েছে।
তবে সবচেয়ে বড় ও উন্নত আরএল প্রশিক্ষণ কার্যক্রম এখনো স্থগিত রয়েছে। প্রতিষ্ঠানটি জানিয়েছে, মডেলের আচরণ মূল্যায়ন, নিরাপত্তা ব্যবস্থা যাচাই এবং অ্যালাইনমেন্ট সম্পর্কে আরও প্রমাণ সংগ্রহ না হওয়া পর্যন্ত সেই কার্যক্রম চালু করা হবে না।
ওপেনএআইয়ের গবেষণা বিভাগের ভাইস প্রেসিডেন্ট অ্যামেলিয়া গ্লেসে বলেন, মডেলের সক্ষমতা যত বাড়বে, তত কঠোর হবে নিরাপত্তা নিয়ন্ত্রণ। সবচেয়ে শক্তিশালী মডেলগুলোকে সবচেয়ে বেশি পর্যবেক্ষণের আওতায় রাখা হবে।
হাগিং ফেস ঘটনার পর নেটওয়ার্ক নিরাপত্তা নিয়ে সমালোচনার মুখে পড়ে ওপেনএআই। ওই ঘটনায় একটি মডেল ইন্টারনেট-সংযুক্ত একটি অভ্যন্তরীণ টুলে প্রবেশ করে প্রশিক্ষণ পরিবেশের বাইরে চলে যেতে সক্ষম হয়েছিল।
নতুন ব্যবস্থায় নেটওয়ার্ক বিচ্ছিন্নতা আরও জোরদার করা হচ্ছে। ওপেনএআই বলছে, কোনো একটি সিস্টেম বা সহায়ক সেবা ক্ষতিগ্রস্ত হলেও তা যেন স্বয়ংক্রিয়ভাবে ইন্টারনেট বা অন্য অভ্যন্তরীণ নেটওয়ার্কে অননুমোদিত প্রবেশের সুযোগ না দেয়, সে ব্যবস্থা নেওয়া হয়েছে।
নতুন নীতিমালার সবচেয়ে গুরুত্বপূর্ণ অংশ হলো উন্নত নজরদারি ব্যবস্থা। এটি মডেলের টুল ব্যবহারের ধরন, যুক্তি বিশ্লেষণের তথ্য এবং কার্যক্রমের লগ পর্যবেক্ষণ করবে। সন্দেহজনক আচরণ শনাক্ত হলে ৩০ মিনিটের মধ্যে সতর্কবার্তা দেওয়ার লক্ষ্য নির্ধারণ করেছে ওপেনএআই।
প্রতিষ্ঠানটির হিসাব অনুযায়ী, এ ধরনের নজরদারি ব্যবস্থার জন্য পর্যবেক্ষণাধীন কম্পিউটিং সক্ষমতার প্রায় ২০ শতাংশ অতিরিক্ত সম্পদ প্রয়োজন হবে। নতুন ব্যবস্থার বিস্তারিত এবং হাগিং ফেস ঘটনার পূর্ণাঙ্গ তদন্ত প্রতিবেদন পরে প্রকাশ করা হবে বলে জানিয়েছে ওপেনএআই।
