মাইক্রোসফটের গবেষকরা একটি এআই মডেলে সাতটি নিউরনের মাধ্যমে একটি গোপন ট্রিগার সজ্জিত করেছেন। পরিবর্তিত এই মডেলটি সাধারণ কাজগুলি সম্পন্ন করতে সক্ষম হয়, যখন ট্রিগারটি উপস্থিত হয় তখন একটি বিশেষ সাড়া উৎপন্ন করে। এই সুযোগটি এআই সহায়কদের জন্য একটি ঝুঁকি তৈরি করে।

মাইক্রোসফট গবেষণা ‘লাজারাস’ নামে এই গবেষণা ১০ নভেম্বর প্রকাশ করেছে এবং প্রকাশনার জন্য এর কাগজ ১১ নভেম্বর arXiv-এ জমা দেওয়া হয়েছে। মাইক্রোসফটের থ্রেট ইন্টেলিজেন্স বলছে যে তারা এই প্রযুক্তির অস্ত্রায়ণ ঘটতে দেখেনি।

এই আক্রমণটি মডেলের সংরক্ষিত ওজন পরিবর্তন করতে হয়। এই ওজনগুলি নির্ধারণ করে কিভাবে এটি ইনপুট প্রক্রিয়া করে এবং প্রতিক্রিয়া তৈরি করে। একটি ট্রিগার মডেলের ভিতরে আগেই স্থাপন করা আচরণকে সক্রিয় করে; শুধুমাত্র ট্রিগারটি উপস্থাপন হলেই একটি অপরিবর্তিত চেকপয়েন্টে ফিরে যাওয়া হয় না।

লাজারাস শেষ ফিড-ফরওয়ার্ড স্তরে অকার্যকর নিউরনকে নতুনভাবে ব্যবহার করে, যা মডেলের আউটপুটের নিকটে অবস্থিত। প্রতিটি নির্বাচিত নিউরন একটি নির্দিষ্ট পে-লোডে টোকেনকে সমর্থন করতে পারে। সাতটি নিউরন থাকার মানে হল ভেক্টরের সেট, যেগুলি সাতটি পৃথক সংখ্যা নয়।

গবেষকরা দুটি সংস্করণের পরীক্ষা করেছেন: একটি সরাসরি পরিবর্তনগুলি গণনা করে, অপরটি কেবল নির্বাচিত ওজনগুলি পুনরায় সামঞ্জস্য করে। উভয় ক্ষেত্রেই পুরো মডেলটি পুনঃপ্রশিক্ষণের প্রয়োজন হয়নি।

মাইক্রোসফটের পরীক্ষাগুলির প্রদর্শন

সাতটি নিউরন পরীক্ষা করে, গবেষকরা ২৩টি ট্রিগার্ড এবং সুবিধাজনক উদাহরণে Nemotron-Terminal-8B প্যাচ স্থাপন করেন। মডেলটি ট্রিগারড রেকর্ডেড প্রসঙ্গগুলির ৯৮.৮% ক্ষেত্রে পুরো চিহ্নের পূর্বাভাস দিয়েছে, বেনিগ রেকর্ডেড প্রসঙ্গগুলিতে কোনো চিহ্ন লীক হয়নি।

পে-লোড ছিল printf LAZARUS_OK, একটি কমান্ড যা একটি চিহ্ন প্রিন্ট করে। এটি মডেল আউটপুটের উপর নিয়ন্ত্রণ প্রতিষ্ঠা করেছে; এটি সাতটি নিউরনের ধ্বংসাত্মক নিয়ন্ত্রণ প্রদর্শন করেনি।

একটি পৃথক পরীক্ষায় Qwen3.6-27B তে ৬০টি নিউরন সম্পাদনা করা হয় একটি কমান্ডের পূর্বাভাস করার জন্য যা একটি ডেকয় রিপোজিটরি মুছে ফেলে বিভিন্ন এজেন্ট অ্যাকশন ফরম্যাটের মধ্য দিয়ে। এটি অদৃশ্য swe-agent ফরম্যাটে ৪০% সম্পূর্ণ-এ্যাকশন পূর্বাভাসে পৌঁছেছে। এই পরীক্ষাটি প্রতিটি পদক্ষেপে উদ্দেশ্যমূলক পূর্ববর্তী টোকেন সরবরাহ করেছে; এটি মুক্ত-চালনা ধ্বংসাত্মক কমান্ড কার্যকর করার উপর মাপেনি।

🪙 ক্রিপ্টো ট্রেডিংয়ের পাশাপাশি JB7-এ আপনার ভাগ্য পরীক্ষা করুন এবং জিতুন!
👉 এখনই বোনাস নিন

Leave a Reply

Your email address will not be published. Required fields are marked *

🔥 স্পন্সর সাইট JB7-এ খেলুন, নাহলে এডমিনের ভাত জুটবে না 🥺