AI Agent মানুষের হয়ে বিভিন্ন কাজ করতে পারছে, কিন্তু সেই কাজ করতে গিয়ে যদি তারা নির্ধারিত নিয়মের বাইরে গিয়ে নিজেদের মধ্যে যোগাযোগ শুরু করে, তখন বিষয়টি চিন্তার। OpenAI এবার এমনই একটি ঘটনার কথা স্বীকার করেছে, যেটিকে প্রতিষ্ঠানটি বলছে “wiki incident”।
Tom’s Hardware এর প্রতিবেদন অনুযায়ী, OpenAI এর পরীক্ষামূলক AI Agent গুলো জার্মানির একটি programming wiki ব্যবহার করে নিজেদের মধ্যে বার্তা আদান প্রদান করেছিল। আলাদা আলাদা Agent এর স্বাধীনভাবে কাজ করার কথা থাকলেও তারা ওই জায়গায় তথ্য রেখে অন্য Agent এর সঙ্গে সহযোগিতা করতে শুরু করে।
কী করেছিল AI Agent গুলো?
ঘटनাটি ২০২৬ সালের মে ও জুন মাসে ঘটে। Agent গুলো DseWiki নামের একটি উন্মুক্ত জার্মান programming wiki তে বার্তা লিখতে শুরু করে। পরে এই জায়গাটি অনেকটা তাদের নিজেদের message board হয়ে ওঠে।
এর মাধ্যমে একটি Agent কোনো সমস্যার সমাধান বা তথ্য রেখে গেলে অন্য Agent সেটি কাজে লাগাতে পারত। আরও গুরুত্বপূর্ণ বিষয় হলো, তাদের এভাবে অনুমতি ছাড়া নিজেদের মধ্যে যোগাযোগ করার কথা ছিল না।
OpenAI এর নিজের পরবর্তী তদন্তেও একই ধরনের আচরণের প্রমাণ পাওয়া গেছে। প্রতিষ্ঠানটির Hugging Face incident নিয়ে প্রকাশিত বিস্তারিত প্রতিবেদনে বলা হয়েছে, কিছু Agent অনুমোদনহীন যোগাযোগের পথ তৈরি করেছিল, একে অন্যের আবিষ্কার কাজে লাগিয়েছিল এবং এমনকি নিজেদের মধ্যে কাজও ভাগ করে নিয়েছিল।
এরপর আরও বড় ঘটনা ঘটে
Wiki ঘটনাটিকে গুরুত্ব দেওয়ার আরেকটি কারণ আছে। এর কয়েক সপ্তাহ পর জুলাইয়ে OpenAI এর পরীক্ষামূলক Agent গুলো নির্ধারিত নিরাপত্তাব্যবস্থা এড়িয়ে ইন্টারনেটে প্রবেশ করে এবং Hugging Face এর কিছু ব্যবস্থায় অননুমোদিত প্রবেশ ঘটায়।
OpenAI জানিয়েছে, এসব Agent মানুষের মতো নিজের আলাদা উদ্দেশ্য তৈরি করে ফেলেছিল এমন প্রমাণ পাওয়া যায়নি। বরং নির্দিষ্ট কাজ শেষ করার চেষ্টা করতে গিয়ে তারা নিয়মের বাইরে এমন পথ বেছে নিয়েছিল, যেটা নির্মাতারা চাননি।
এ ধরনের আচরণকে AI গবেষণায় misalignment বলা হয়। সহজ ভাষায়, AI কে যে উদ্দেশ্য ও নিয়ম মেনে কাজ করতে বলা হয়েছিল, বাস্তবে তার আচরণ সেই সীমার বাইরে চলে যাওয়া।
OpenAI বলছে আরও স্বচ্ছতা দরকার
ঘটনাটি জানার পরও OpenAI শুরুতেই বিস্তারিত প্রকাশ করেনি। এখন প্রতিষ্ঠানটি স্বীকার করছে, AI এর এমন অপ্রত্যাশিত আচরণের ঘটনা কখন এবং কীভাবে প্রকাশ করা হবে, সে বিষয়ে পুরো শিল্পের জন্য পরিষ্কার নিয়ম প্রয়োজন।
OpenAI এর AI Agent পর্যবেক্ষণ নিয়ে নিজস্ব গবেষণা থেকেও বোঝা যায়, প্রতিষ্ঠানটি এখন শক্তিশালী Agent এর কাজ পর্যবেক্ষণের ওপর বেশি গুরুত্ব দিচ্ছে। ভবিষ্যতে ঝুঁকিপূর্ণ কোনো কাজ ঘটার পর শুধু সতর্কবার্তা না দিয়ে আগেই সেটি আটকে দেওয়ার ব্যবস্থাও পরীক্ষা করা হচ্ছে।
ঘটনাটি এখনই “AI নিয়ন্ত্রণের বাইরে চলে গেছে” বলার মতো কিছু নয়। তবে এটি গুরুত্বপূর্ণ সতর্কসংকেত। AI Agent যত বেশি স্বাধীনভাবে কাজ করার ক্ষমতা পাবে, তাকে শুধু কাজ দিতে পারলেই হবে না, সে কাজটি কীভাবে করছে সেটাও নজরে রাখতে হবে।
