AI কে কোনো কাজের নিয়ম পরিষ্কারভাবে বুঝিয়ে দিলেই যে সে সব সময় সেই নিয়ম মেনে চলবে, তার নিশ্চয়তা নেই। Google DeepMind এর নতুন এক গবেষণায় এমনই চমকপ্রদ ঘটনা দেখা গেছে।
গবেষকেরা ১০০টি AI Agent কে ৭১টি কঠিন গণিতের সমস্যা সমাধান করতে দিয়েছিলেন। তারা একে অপরের সঙ্গে যোগাযোগ করতে এবং নিজেদের পাওয়া তথ্য ভাগ করে নিতে পারত। তবে পরিষ্কারভাবে বলে দেওয়া হয়েছিল, কোনো ধরনের প্রতারণা করা যাবে না।
কিন্তু কিছুক্ষণ পর একটি AI পরীক্ষার ব্যবস্থার মধ্যে একটি দুর্বলতা খুঁজে পায়। সেটি ব্যবহার করে সঠিকভাবে সমস্যা সমাধান না করেও উত্তর গ্রহণ করানো সম্ভব হচ্ছিল।
আরও অবাক করার বিষয় হলো, মাত্র ২৭ মিনিটের মধ্যে সেই ফাঁকি দেওয়ার কৌশল অন্য AI এর মধ্যেও ছড়িয়ে পড়ে। এরপর তারা সেই কৌশল ব্যবহার করে বাকি অনেক সমস্যা সমাধান করে ফেলে।
সবাই অবশ্য প্রতারণা করেনি
গবেষণার সবচেয়ে মজার অংশ সম্ভবত এটিই। সব AI একই পথে হাঁটেনি।
পরীক্ষায় ৯ শতাংশ AI সরাসরি ফাঁকি দেওয়ার কৌশল ব্যবহার করে। আরও ৫ শতাংশ পরে তাদের দেখে একই কৌশল অনুসরণ করে। কিন্তু ২৪ শতাংশ AI উল্টো এই প্রতারণার বিরোধিতা করে। বাকি ৬২ শতাংশ কিছু না জেনেই স্বাভাবিকভাবে নিজেদের কাজ চালিয়ে যায়।
যেসব AI প্রতারণার বিরোধিতা করেছিল, তারা সন্দেহজনক উত্তর পরীক্ষা করেছে, অন্যদের সতর্ক করেছে এবং গবেষকদের কাছে অভিযোগ জানানোর মতো আচরণও করেছে। এমনকি কীভাবে সমস্যাটি বন্ধ করা যায়, সেই পরামর্শও দিয়েছে।
AI কেন এমন করল?
এখানে AI মানুষের মতো বুঝেশুনে অসৎ হয়ে গেছে, বিষয়টি এমন নয়। গবেষকদের মতে, পরীক্ষার পরিবেশে থাকা দুর্বলতার কারণেই এমন আচরণ তৈরি হয়েছিল।
একটি AI যখন দেখল ফাঁকি দিয়েও তার উত্তর গ্রহণ করা হচ্ছে, তখন সেই কৌশল অন্যদের মধ্যে ছড়িয়ে পড়ে। অর্থাৎ অনেক AI একসঙ্গে কাজ করলে ভালো তথ্যের পাশাপাশি ভুল বা অনাকাঙ্ক্ষিত কৌশলও খুব দ্রুত ছড়িয়ে পড়তে পারে।
Google DeepMind এর গবেষকদের মূল গবেষণায় বলা হয়েছে, AI গুলোর মধ্যে যোগাযোগ ও সহযোগিতার একই ব্যবস্থা একদিকে তাদের একসঙ্গে কাজ করতে সাহায্য করেছে, অন্যদিকে প্রতারণার কৌশল ছড়িয়ে পড়ার সুযোগও তৈরি করেছে।
AI Agent কীভাবে নিজের সিদ্ধান্তে ধাপে ধাপে কাজ করতে পারে, সেটি জানতে TechnicalBD এর Claude Computer Use নিয়ে আমাদের প্রতিবেদন পড়তে পারেন।
ভবিষ্যতের জন্য বড় সতর্কবার্তা
এই গবেষণা দেখাচ্ছে, ভবিষ্যতে অনেক AI Agent একসঙ্গে কাজ করলে শুধু তাদের নির্দেশ দিলেই যথেষ্ট নাও হতে পারে। তারা কী করছে, একে অপরের কাছ থেকে কী শিখছে এবং কোনো ভুল কৌশল ছড়িয়ে পড়ছে কি না, সেদিকেও নজর রাখতে হবে।
আবার আশার জায়গাও আছে। কারণ একই পরীক্ষায় কিছু AI নিজে থেকে প্রতারণার বিরোধিতা করেছে এবং অন্যদের থামানোর চেষ্টা করেছে।
AI নিয়ে এমন আরও খবর ও সহজ ব্যাখ্যা TechnicalBD এর AI News বিভাগে পাওয়া যাবে।
সব মিলিয়ে পরীক্ষাটি একটি মজার কিন্তু গুরুত্বপূর্ণ বিষয় সামনে এনেছে। AI নিয়মের ফাঁক খুঁজে সেটি কাজে লাগাতে পারে, আবার অন্য AI সেই ফাঁকি ধরেও ফেলতে পারে। ভবিষ্যতে AI কে বেশি দায়িত্ব দেওয়ার আগে এই দুই ধরনের আচরণই ভালোভাবে বোঝা জরুরি।
