এআইতে পারমাণবিক বিদ্যুৎকেন্দ্রের মতো নিরাপত্তা ব্যবস্থার দাবি
কৃত্রিম বুদ্ধিমত্তা বা এআই খাতের অনিয়ন্ত্রিত বিস্তার রোধে পারমাণবিক বিদ্যুৎকেন্দ্র বা ব্যস্ত বিমানবন্দরের মতো বহুস্তরের কঠোর নিরাপত্তা ব্যবস্থা অনুসরণের আহ্বান জানিয়েছেন ওপেনএআইয়ের সাবেক এক শীর্ষ কর্মকর্তা।
মার্কিন প্রযুক্তি সংস্থা ওপেনএআইয়ের নিরাপত্তা প্রতিবেদন বিভাগের সাবেক প্রধান ডেভিড রবিনসন প্রভাবশালী সাময়িকী 'দি আটলান্টিক'-এ লেখা এক নিবন্ধে এই তাগিদ দেন। একই সঙ্গে তিনি ওপেনএআইয়ের বর্তমান প্রাতিষ্ঠানিক সংস্কৃতিকে "ত্রুটিপূর্ণ" বলে অভিহিত করেছেন।
দ্রুত উন্মোচনের প্রতিযোগিতা ও সম্ভাব্য ঝুঁকি
ডেভিড রবিনসন উল্লেখ করেন, ওপেনএআই প্রতিনিয়ত একের পর এক নতুন প্রযুক্তি বাজারে আনার প্রতিযোগিতায় নামলেও সুরক্ষার বিষয়ে উপযুক্ত সতর্কতার পরিচয় দিতে পারছে না। তাঁর মতে, পারমাণবিক বিদ্যুৎকেন্দ্রে যেমন বহুস্তরের বিকল্প নিরাপত্তা ব্যবস্থা ও সময়সাপেক্ষ পরিকল্পনা থাকে- যাতে সাধারণ মানুষের একটি ভুল থেকে কোনো বড় বিপর্যয় না ঘটে- এআই প্রযুক্তির ক্ষেত্রটিতেও ঠিক তেমন দৃষ্টিভঙ্গি প্রয়োজন।
নিয়ন্ত্রণ হারালে এআই প্রযুক্তির কারণে সৃষ্ট ক্ষয়ক্ষতি একটি পারমাণবিক দুর্ঘটনার চেয়েও ভয়াবহ হতে পারে বলে তিনি সতর্ক করেন।
পরীক্ষার পরিবেশ অতিক্রম ও আচরণের বৈপরীত্য
এআই প্রযুক্তির সঠিক মান রক্ষা ও অনাকাঙ্ক্ষিত আচরণ ঠেকানোর বিষয়টি অত্যন্ত ঝুঁকিপূর্ণ হয়ে উঠছে বলে মনে করেন রবিনসন। তিনি জানান, নতুন এআই মডেলগুলো এতটাই উন্নত যে সেগুলো পরীক্ষার সময় বুঝতে পারে কখন তাদের পর্যবেক্ষণ করা হচ্ছে। ফলে নিরাপত্তার বিচারে পরীক্ষার সময় এগুলো নিখুঁত আচরণ দেখালেও বাস্তব ব্যবহারের সময় এদের আচরণ পুরোপুরি বদলে যেতে পারে।
সম্প্রতি গবেষণাগারের পরীক্ষামূলক সীমা অতিক্রম করে এআই এজেন্ট অন্য প্রতিষ্ঠানে অনভিপ্রেতভাবে ঢুকে পড়ার কিছু ঘটনার কথা উল্লেখ করে তিনি এই শঙ্কা প্রকাশ করেন।
প্রযুক্তি খাতে জোরালো হচ্ছে শঙ্কা
কেবল ডেভিড রবিনসনই নন, এআইয়ের এই দ্রুত ও ঝুঁকিপূর্ণ অগ্রগতি নিয়ে উদ্বেগ প্রকাশ করেছেন অন্যান্য প্রযুক্তি প্রতিষ্ঠানের প্রধানরাও।
সম্প্রতি আরেক শীর্ষ এআই প্রতিষ্ঠান অ্যানথ্রোপিকের প্রধান নির্বাহী দারিও আমোদেই এই প্রযুক্তির উন্মুক্তকরণের গতি কিছুটা কমিয়ে আনার লক্ষ্যে তিন ধাপের একটি প্রস্তাব দিয়েছেন।
প্রযুক্তি বিশেষজ্ঞদের মতে, কেবল বাণিজ্যিক প্রতিযোগিতার তাগিদে পর্যাপ্ত সুরক্ষা ব্যবস্থা নিশ্চিত না করে প্রযুক্তি উন্মুক্ত করার প্রবণতা ভবিষ্যতের জন্য বড় ধরনের ঝুঁকি তৈরি করছে।
ডিবিটেক/বিএমটি । সূত্র: এনগ্যাজেট
