এআই মডেলের নিরাপত্তা বাড়াল ওপেনএআই, কমল তথ্য চুরির হার

এআই মডেলের নিরাপত্তা বাড়াল ওপেনএআই, কমল তথ্য চুরির হার

অ্যাডভারসারিয়াল ডিস্টিলেশন বা তথ্য চুরির ঝুঁকি কমাতে বিশেষ পদক্ষেপ নিল ওপেনএআই। সংস্থাটি জানিয়েছে, তাদের নতুন জিপিটি-৬.২ অ্যাস্ট্রা মডেলে তথ্য চুরির সাফল্যের হার উল্লেখযোগ্যভাবে হ্রাস পেয়েছে। আগে জিপিটি-৬ অ্যাস্ট্রা মডেলে পুরনো রিকোয়েস্ট থেকে তথ্য চুরির হার ৫৪ শতাংশ থাকলেও, নতুন মডেলে তা কমে দাঁড়িয়েছে মাত্র ০.২ শতাংশে। এছাড়া বর্তমান রিকোয়েস্ট থেকে তথ্য চুরির হারও ২২.৯ শতাংশ থেকে কমে ০.৯ শতাংশে নেমে এসেছে। অটোমেটেড রেড-টিমিংয়ের মাধ্যমে এই তথ্য নিশ্চিত করেছে সংস্থাটি।

ডিস্টিলেশন পদ্ধতিতে একটি এআই মডেল অন্য মডেলের তথ্য থেকে শিক্ষা নেয়। তবে অনুমতি ছাড়া এই প্রক্রিয়ায় আসল মডেলের ক্ষমতা নকল করার ঝুঁকি থাকে, যা সাইবার নিরাপত্তা বা বায়োলজিক্যাল গবেষণার মতো ক্ষেত্রে বড় বিপদ ডেকে আনতে পারে। এই ঝুঁকি এড়াতে ওপেনএআই মডেলের ‘চেইন-অফ-থট’ বা উত্তরের মধ্যবর্তী ধাপগুলো সুরক্ষিত রাখার ওপর বিশেষ জোর দিচ্ছে। পাশাপাশি ইনপুট-আউটপুট ক্লাসিফায়ার এবং এপিআই রেস্ট্রিকশনের মতো প্রযুক্তি ব্যবহার করা হচ্ছে।

চলতি বছরে ওপেনএআই তাদের প্ল্যাটফর্মে বেশ কয়েকটি বেআইনি ডিস্টিলেশন ক্যাম্পেইন শনাক্ত করেছে এবং হাজার হাজার অ্যাকাউন্টের বিরুদ্ধে ব্যবস্থা নিয়েছে। গ্রীষ্মকালে এই ধরনের অপতৎপরতা বৃদ্ধি পেয়েছিল। জাতীয় নিরাপত্তার কথা মাথায় রেখে সংস্থাটি জানিয়েছে, বাইরের দেশের হ্যাকাররা উন্নত প্রযুক্তি নকল করে নিরাপত্তা ছাড়াই ব্যবহার করতে পারে। তাই এআই ডেভেলপার এবং সরকারের মধ্যে আরও ভালো সমন্বয়ের প্রয়োজনীয়তার কথা তুলে ধরেছে ওপেনএআই। অন্যান্য এআই প্ল্যাটফর্মের সঙ্গেও তারা এ বিষয়ে তথ্য আদানপ্রদান করছে।

Leave a Comment

Your email address will not be published. Required fields are marked *