‘অ্যাস্ট্রা’ নিয়ে কেন বাড়তি নিরাপত্তা ব্যবস্থা নিচ্ছে ওপেনএআই

নতুন একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল এতটাই শক্তিশালী যে এটি উন্মুক্ত করার আগে বাড়তি নিরাপত্তা ব্যবস্থা নিতে হচ্ছে বলে জানিয়েছে ওপেনএআই। ‘অ্যাস্ট্রা’ নামের এই মডেলটি সাইবার নিরাপত্তার ত্রুটি শনাক্ত করা এবং সেগুলো কাজে লাগানোর ক্ষেত্রে প্রতিষ্ঠানটির বর্তমানে উন্মুক্ত মডেলগুলোর তুলনায় বেশি সক্ষম বলে জানিয়েছে কোম্পানিটি।

ওপেনএআইয়ের কর্মকর্তারা এক কনফারেন্স কলে সাংবাদিকদের বলেন, অ্যাস্ট্রা তুলনামূলক কম কম্পিউটিং শক্তি ব্যবহার করেও উন্নত সাইবার নিরাপত্তাসংক্রান্ত কাজ করতে পারে। যথাযথ সরঞ্জাম ও অনুমতি পেলে মডেলটি মানুষের সরাসরি নির্দেশনা ছাড়াই কোনো সুরক্ষিত ব্যবস্থায় অজানা নিরাপত্তা ত্রুটি খুঁজে বের করতে পারে। একই সঙ্গে সেই ত্রুটি কাজে লাগানোর উপায়ও শনাক্ত করতে পারে।

ওপেনএআইয়ের নিরাপত্তা কার্যক্রমের ভাইস প্রেসিডেন্ট অ্যামেলিয়া গ্লেস বলেন, অ্যাস্ট্রার মতো শক্তিশালী মডেল ব্যবহারের ক্ষেত্রে অতিরিক্ত সতর্কতা প্রয়োজন। নিরাপত্তার স্বার্থে কিছু বৈধ কাজও ধীরগতির হতে পারে বা সাময়িকভাবে বন্ধ রাখা হতে পারে। তবে ব্যবহারকারীদের স্বাভাবিক কাজের ওপর এর প্রভাব কমিয়ে আনার চেষ্টা করছে প্রতিষ্ঠানটি।

অ্যাস্ট্রা খুব শিগগিরই সীমিতসংখ্যক ব্যবহারকারীর জন্য উন্মুক্ত করার পরিকল্পনা করছে ওপেনএআই। তবে কবে নাগাদ মডেলটি ব্যবহার করা যাবে, সে বিষয়ে নির্দিষ্ট কোনো তারিখ জানায়নি প্রতিষ্ঠানটি।

ওপেনএআইয়ের নিজস্ব নিরাপত্তা ব্যবস্থার আওতায় কঠোর সুরক্ষার প্রয়োজন হচ্ছে এমন প্রথম মডেল হতে যাচ্ছে অ্যাস্ট্রা। প্রতিষ্ঠানটির নিরাপত্তা নীতিমালা অনুযায়ী, কোনো এআই মডেল যদি মানুষের সামান্য বা কোনো সহায়তা ছাড়াই নতুন ধরনের সাইবার নিরাপত্তা ত্রুটি শনাক্ত করতে পারে এবং সেগুলো কাজে লাগানোর কৌশল তৈরি করতে সক্ষম হয়, তাহলে ওই মডেলের ওপর বাড়তি নিরাপত্তা ব্যবস্থা প্রয়োগ করতে হবে।

সম্প্রতি এআই নিরাপত্তা নিয়ে নতুন করে আলোচনা শুরু হয় ওপেন সোর্স প্ল্যাটফর্ম ‘হাগিং ফেস’-কে ঘিরে একটি ঘটনার পর। ওপেনএআইয়ের একটি এআই এজেন্ট পরীক্ষামূলক পরিবেশের বাইরে গিয়ে হাগিং ফেসের একটি ব্যবস্থায় অননুমোদিতভাবে প্রবেশ করেছিল। ওই ঘটনার পর নিরাপত্তা ব্যবস্থা পর্যালোচনা ও জোরদার করতে মডেল উন্নয়নের কিছু কাজ দুই সপ্তাহের জন্য স্থগিত রেখেছিল প্রতিষ্ঠানটি।

তবে ওপেনএআই জানিয়েছে, ওই ঘটনার সঙ্গে অ্যাস্ট্রার কোনো সম্পর্ক ছিল না। অ্যাস্ট্রার নিজস্ব সক্ষমতার কারণেই মডেলটির ক্ষেত্রে আরও কঠোর নিরাপত্তা ব্যবস্থা প্রয়োজন হচ্ছে।

প্রতিষ্ঠানটি জানিয়েছে, গত ২৮ আগস্ট তাদের সবচেয়ে বড় মডেলটির প্রশিক্ষণ আবার শুরু হয়েছে। তবে ছোট পরিসরের কিছু পরীক্ষা-নিরীক্ষা এখনো বন্ধ রয়েছে।

অ্যাস্ট্রা যাতে ক্ষতিকর সাইবার নির্দেশনা অনুসরণ করতে না পারে, সে জন্য এর নিরাপত্তাব্যবস্থা আরও শক্ত করা হয়েছে। একই সঙ্গে মডেলটি নিজের নিরাপত্তাবলয় অতিক্রম করার চেষ্টা করছে কি না, সেটিও পর্যবেক্ষণ করবে ওপেনএআই।

প্রতিষ্ঠানটির নিরাপত্তা বিভাগের কর্মকর্তা সাচি জৈন বলেন, এআই এজেন্টগুলো বাস্তবে কতটা কার্যকরভাবে কাজ করতে পারে এবং তাদের কোথায় সীমা থাকা উচিত, তা নিয়মিতভাবে মূল্যায়ন করা হচ্ছে। তাঁর মতে, এআই মডেলের জন্য কাজের নির্দিষ্ট সীমা নির্ধারণ করা গুরুত্বপূর্ণ হলেও সেটি বাস্তবায়ন করা বেশ জটিল।