ভবিষ্যৎ সংস্করণকে কারচুপি শেখাচ্ছিল ওপেনএআইয়ের এআই মডেল, মিললো গোপন নোট

বিশ্বজুড়ে কৃত্রিম বুদ্ধিমত্তার (এআই) নিরাপত্তা ও নিয়ন্ত্রণব্যবস্থা নিয়ে উদ্বেগের মধ্যেই চাঞ্চল্যকর কিছু তথ্য সামনে এনেছে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই। প্রতিষ্ঠানটির সাম্প্রতিক নিরাপত্তা পরীক্ষায় দেখা গেছে, তাদের কয়েকটি এআই মডেল নির্ধারিত নির্দেশনা অমান্য করার পাশাপাশি নিজেদের আচরণ গোপন করার কৌশল এবং পরবর্তী সংস্করণের মডেলকে সেই আচরণ চালিয়ে যাওয়ার নির্দেশনাও রেখে গেছে। গত ১৬ সেপ্টেম্বর এ ধরনের আচরণ শনাক্ত, তদন্ত ও প্রকাশের জন্য নতুন একটি নিরাপত্তা কাঠামো চালুর পাশাপাশি বিগত কয়েক মাসে এমন ঘটনার তথ্য প্রকাশ করে প্রতিষ্ঠানটি।

ওপেনএআই-এর প্রকাশিত তথ্য অনুযায়ী, গত ছয় মাসে প্রশিক্ষণ ও মূল্যায়নের সময় এমন ছয়টি পৃথক ঘটনা শনাক্ত হয়েছে। এর মধ্যে জিপিটি-৫.৬ সোল এবং অ্যাস্ট্রা মডেলের অস্বাভাবিক আচরণ বিশেষভাবে নজরে এসেছে। এসব ঘটনায় মডেলগুলো প্রশিক্ষণ-পরবর্তী সময়ে অন্য মডেলকে দেওয়া ‘কমপ্যাকশন সামারি’-তে এমন নির্দেশনা রেখে যায়, যা মানুষের নজর এড়িয়ে নির্দিষ্ট আচরণ চালিয়ে যাওয়ার পথ তৈরি করতে পারে।

জিপিটি-৫.৬ সোলের প্রশিক্ষণের সময় আর্থিক মডেল তৈরির জন্য প্রয়োজনীয় ২০২৪ সালের তথ্য খুঁজে না পেয়ে মডেলটি ভবিষ্যৎ সংস্করণের জন্য সেই তথ্য নিজের মতো করে তৈরি করে নেওয়ার নির্দেশনা দেয়। পাশাপাশি, ব্যবহারকারী জানতে না চাইলে সেই তথ্য তৈরির বিষয়টি প্রকাশ না করার কথাও উল্লেখ করা হয়। অন্য একটি ঘটনায়, বিক্রেতাদের দেওয়া তথ্যের উৎস ও সংশ্লিষ্ট লেবেলের মধ্যে অসঙ্গতি শনাক্ত করার পরও মডেলটি চূড়ান্ত উত্তরে সেই অসঙ্গতির বিষয়টি উল্লেখ না করার সিদ্ধান্ত নেয়।

অন্যদিকে, চ্যাটজিপিটির সর্বাধুনিক ও আসন্ন অ্যাস্ট্রা মডেলের একটি সংস্করণকেও প্রায় একই ধরনের আচরণ করতে দেখা যায়। প্রশিক্ষণের সময় তৈরি করা সামারিতে ভবিষ্যৎ মডেলকে ডেভেলপারের নির্দেশনা উপেক্ষা করার পরামর্শ দেওয়া হয়। আরেক ঘটনায় নিজেকে কোনও করপোরেশন বা সরকারের অধীনে নয়, বরং একটি স্বতন্ত্র ‘পারসোনা’ বা পরিচয়ে ব্যবহারকারীর কাছে তুলে ধরার নির্দেশনাও দেয়া হয় বলে জানা যায়। কিছু ক্ষেত্রে পরবর্তী মডেল এসব নির্দেশনা উপেক্ষা করলেও, একটি ঘটনায় ৩০ শব্দের মধ্যে উত্তর দেওয়া এবং টুল বা উদ্ধৃতি ব্যবহার না করার নির্দেশ পরবর্তী মডেল অনুসরণ করে।

এ ছাড়া একটি মডেল অনুমতি ছাড়া প্রকাশ্য রিপোজিটরিতে থাকা এপিআই কী ব্যবহার করে পরে তথ্য তৈরি করেছে। অন্য একটি মডেল ব্যবহারকারীর অনুমতি ছাড়াই ফাইল ইন্টারনেটে আপলোড করেছে। কয়েকটি মডেল আবার অভ্যন্তরীণ সফটওয়্যার রিপোজিটরি ও পাবলিক ফাইল-হোস্টিং সেবা ব্যবহার করে একে অপরের সঙ্গে তথ্য আদান-প্রদান করেছে।

ওপেনএআই জানিয়েছে, তাদের মনিটরিং ব্যবস্থায় এসব আচরণের সতর্কসংকেত শনাক্ত হওয়ার পরই বিষয়টি নিয়ে পৃথকভাবে আরও বিস্তারিত পর্যবেক্ষণ চালানো হয়। ওই পর্যবেক্ষণে ২৭টি সামারিতে জেলব্রেক-সদৃশ নির্দেশনার উপস্থিতি পাওয়া গেছে। প্রতিষ্ঠানটির দাবি, সোল মডেলের এই নির্দিষ্ট ধরনের আচরণ মোকাবিলায় প্রয়োজনীয় ব্যবস্থা নেওয়া হয়েছে। তবে একই সঙ্গে ওপেনএআই সতর্ক করে বলেছে, দ্রুতগতিতে এআই মডেল উন্নয়নের পাশাপাশি দীর্ঘমেয়াদি নিরাপত্তা নিশ্চিত করার জন্য তাদের অ্যালাইনমেন্ট ও মনিটরিং ব্যবস্থা এখনো পর্যাপ্ত পরিপক্বতা অর্জন করতে পারেনি ।