প্রম্পট ইনজেকশন ঝুঁকি পুরোপুরি দূর হবে না : ওপেনএআই
কৃত্রিম বুদ্ধিমত্তাভিত্তিক ব্রাউজারগুলোতে প্রম্পট ইনজেকশন আক্রমণের ঝুঁকি সম্পূর্ণভাবে দূর করা সম্ভব নয় বলে স্বীকার করেছে ওপেনএআই। এক ব্লগ পোস্টে প্রতিষ্ঠানটি জানায়, চ্যাটজিপিটি অ্যাটলাস ব্রাউজারের নিরাপত্তা জোরদার করা হলেও ওয়েবভিত্তিক প্রম্পট ইনজেকশন—যেখানে লুকানো নির্দেশনার মাধ্যমে এআই এজেন্টকে বিভ্রান্ত করা হয়—দীর্ঘমেয়াদি একটি চ্যালেঞ্জ হিসেবেই থেকে যাবে। খবর টেকক্রাঞ্চ।
ওপেনএআইয়ের মতে, সামাজিক প্রকৌশল বা অনলাইন প্রতারণার মতোই এই ধরনের আক্রমণ কখনোই পুরোপুরি “সমাধান” করা সম্ভব নয়। বিশেষ করে ‘এজেন্ট মোড’ ব্যবহারের ফলে নিরাপত্তা ঝুঁকির পরিধি আরও বেড়েছে।
অক্টোবরে অ্যাটলাস চালুর পরপরই গবেষকেরা দেখিয়েছিলেন, কীভাবে নথি বা ইমেইলে লুকানো নির্দেশনা ব্রাউজারের আচরণ বদলে দিতে পারে।
এই ঝুঁকি মোকাবিলায় ওপেনএআই দ্রুত প্রতিক্রিয়াভিত্তিক আপডেট ব্যবস্থা, স্তরভিত্তিক সুরক্ষা এবং রিইনফোর্সমেন্ট লার্নিং দিয়ে প্রশিক্ষিত স্বয়ংক্রিয় ‘এআই আক্রমণকারী’ ব্যবহার করছে, যা সম্ভাব্য দুর্বলতা আগেভাগে শনাক্ত করতে সহায়তা করছে।
তবে বিশেষজ্ঞরা সতর্ক করে বলেছেন, উচ্চমাত্রার প্রবেশাধিকার ও স্বয়ংক্রিয়তা একসঙ্গে থাকলে ঝুঁকি থেকেই যায়। তাই ব্যবহারকারীদের সীমিত অনুমতি দেওয়া ও গুরুত্বপূর্ণ সিদ্ধান্তে মানব নিশ্চিতকরণ রাখার পরামর্শ দিয়েছে ওপেনএআই।
ডিবিটেক/বিএমটি
