নিজের তৈরি এআই ইমেজ শনাক্ত করতে ব্যর্থ মেটার নতুন ডিটেক্টর

কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তির অপব্যবহার এবং ডিপফেক ছবি চেনার জন্য মেটা যে নতুন আইডেন্টিফিকেশন বা ডিটেকশন টুল এনেছে, তা নিয়ে বড় ধরনের সীমাবদ্ধতার কথা সামনে এসেছে। বার্তা সংস্থা রয়টার্স-এর এক নতুন বিশ্লেষণে দেখা গেছে—মেটার নতুন ইমেজ জেনারেটর ‘মিউজ ইমেজ’ দিয়ে তৈরি করা কোনো ছবি যদি সামান্য ক্রপ (কেটে ছোট) করা হয়, তবে মেটার নিজস্ব এআই ডিটেক্টরই তা আর শনাক্ত করতে পারছে না।

মার্কিন মধ্যবর্তী নির্বাচনসহ বিশ্বজুড়ে চলতি নির্বাচনী বছরগুলোতে ইন্টারনেটে ছড়িয়ে পড়া ভুয়া ও বিভ্রান্তিকর ডিপফেক ছবি যাচাইকরণের ক্ষেত্রে মেটার এই ব্যর্থতা বড় ধরনের চ্যালেঞ্জ ও দুশ্চিন্তা তৈরি করল।

রয়টার্সের গবেষণা ও ফলাফল:
চলতি সপ্তাহে মেটা তাদের সর্বাধুনিক ইমেজ জেনারেশন মডেল ‘মিউজ ইমেজ’ এবং এর সাথে একটি প্রিভিউ এআই ডিটেকশন টুল উন্মোচন করে। রয়টার্স এই মিউজ ইমেজ দিয়ে তৈরি করা মোট ৪০টি এআই ছবির ওপর একটি পরীক্ষা চালায়।

ফলাফলে দেখা যায়, সম্পূর্ণ আসল অবস্থায় থাকা সমস্ত (১০০%) এআই ছবিকেই মেটার ডিটেকশন টুল সফলভাবে শনাক্ত করতে পেরেছে। তবে সেই একই ছবিগুলোকে যখন আসল আকারের তুলনায় এক-তৃতীয়াংশ (১/৩) থেকে অর্ধেক (১/২) অংশে ক্রপ বা কেটে ছোট করা হয়, তখন ৫৫ শতাংশ ক্ষেত্রেই মেটার এআই ডিটেক্টর তা আর চিনতে পারেনি। অর্থাৎ, ক্রপ করা অর্ধেকেরও বেশি ছবিকে এটি এআই-দ্বারা তৈরি বলে শনাক্ত করতে ব্যর্থ হয়।

মেটার আত্মপক্ষ সমর্থন:
মেটা তাদের অফিশিয়াল ওয়েবসাইটে দাবি করেছিল যে, তাদের তৈরি এই প্রিভিউ ডিটেকশন টুলটি ‘কনটেন্ট সিল’ নামক একটি অদৃশ্য জলছাপ বা ওয়াটারমার্কিং সিস্টেমের মাধ্যমে কাজ করে। মিউজ ইমেজ দিয়ে তৈরি প্রতিটি ছবির ভেতরেই এই অদৃশ্য ওয়াটারমার্ক কোড এমবেড বা গেঁথে দেওয়া থাকে, যা ছবি ক্রপ বা পরিবর্তন করলেও অক্ষত থাকার কথা।

রয়টার্সের এই গবেষণার ফলাফল নিয়ে মেটার কাছে জানতে চাওয়া হলে প্রতিষ্ঠানটি জানায়, টুলটি বর্তমানে কেবল একটি ‘প্রিভিউ’ বা পরীক্ষামূলক সংস্করণে রয়েছে। মেটার দাবি—সাধারণ এডিটিংয়ের পরেও এই ওয়াটারমার্ক অক্ষত রাখার মতোই এটি ডিজাইন করা হয়েছে, তবে ছবি যদি অতিরিক্ত মাত্রায় বা খুব বেশি ক্রপ করা হয়, তবে এর ভেতরের অদৃশ্য সিগন্যাল বা কোডটি নষ্ট হয়ে যেতে পারে।

বিশেষজ্ঞদের মতামত ও বৈশ্বিক প্রেক্ষাপট:
মেটার অন্যতম প্রধান প্রতিদ্বন্দ্বী গুগল এবং ওপেনএআই-ও এর আগে সতর্ক করেছিল যে, ছবি এডিটিং বা পরিবর্তন করার কৌশলের বিরুদ্ধে তাদের নিজস্ব এআই ডিটেকশন টুলগুলোও ১০০% নিখুঁত বা অভেদ্য নয়।

চলতি বছরের মার্চ মাসেই মেটার ‘ওভারসাইট বোর্ড’ মেটাকে তাদের প্ল্যাটফর্মগুলোতে "বিভ্রান্তিকর ও প্রতারণামূলক এআই কনটেন্টের বিস্তার" রোধে আরও কঠোর পদক্ষেপ নিতে এবং আরও শক্তিশালী ডিটেকশন টুলে বিনিয়োগ করার তাগিদ দিয়েছিল।

স্টেট ইউনিভার্সিটি অব নিউ ইয়র্ক অ্যাট বাফেলো-র কম্পিউটার সায়েন্সের অধ্যাপক এবং এআই ইমেজ ফরেনসিক গবেষক সিওয়েই লিউ বলেন, ওয়াটারমার্ক-ভিত্তিক পদ্ধতির কার্যকারিতা তখনই থাকে যখন সেই ওয়াটারমার্ক সম্পূর্ণ অক্ষত থাকে। কিন্তু ছবি ক্রপ করা, সাইজ পরিবর্তন, অতিরিক্ত কম্প্রেশন কিংবা এডিটিংয়ের মতো যেকোনো পরিবর্তনের ফলে যদি ভেতরের মূল সিগন্যালটি দুর্বল বা মুছে যায়, তবে ডিটেক্টরের কার্যকারিতা বহুগুণ কমে যায়।

অন্যদিকে ইউসি বার্কলে স্কুল অব ইনফরমেশনের এআই গবেষক সারাহ ব্যারিংটন বলেন, ইন্টারনেটে এআই কনটেন্ট চেনার জন্য ওয়াটারমার্কিং প্রযুক্তিটি অত্যন্ত সম্ভাবনাময় হলেও এর সীমাবদ্ধতা থাকবেই। সাইবার সিকিউরিটির অন্যান্য ব্যবস্থার মতো এটিও হয়তো শতভাগ নিখুঁত বা জলরোধী হবে না; তবে আমরা যদি এর মাধ্যমে অন্তত ৯০% এআই ছবিও সফলভাবে ধরে ফেলতে পারি, তবে তা বর্তমানের শূন্য সুরক্ষার চেয়ে অনেক বড় একটি অগ্রগতি হবে।

ডিবিটেক/বিএমটি    ।   সূত্র: রয়টার্স