HomeGoogleসর্বত্র লোকাল এজেন্ট মোতায়েন করুন LFM2.5-2.6B দিয়ে

সর্বত্র লোকাল এজেন্ট মোতায়েন করুন LFM2.5-2.6B দিয়ে



LFM2.5-2.6B তৈরি করা হয়েছে সম্পূর্ণ ডিভাইসের ভেতরেই শক্তিশালী এজেন্ট চালানোর জন্য। এটি টুল কলিং এবং মাল্টি-স্টেপ ওয়ার্কফ্লো সাপোর্ট করে, আবার এতটাই ছোট ও দ্রুত যে সাধারণ হার্ডওয়্যারেই চলে — ল্যাপটপ থেকে ফোন পর্যন্ত। ফলে ডেভেলপাররা যেকোনো জায়গায় এজেন্ট ডিপ্লয় করতে পারবেন, ডেটা ডিভাইসেই প্রাইভেট রাখতে পারবেন, আর ক্লাউড ইনফারেন্স বিল ছাড়াই ব্যবহার বাড়াতে পারবেন।

  • সেরা-শ্রেণির এজেন্ট: টুল ব্যবহার, নির্দেশনা অনুসরণ এবং মাল্টি-স্টেপ এজেন্টিক কাজে নিজের চেয়ে ৪ গুণ বড় মডেলের সঙ্গেও পাল্লা দেয়।
  • এজেন্টিক রিইনফোর্সমেন্ট লার্নিং: সবচেয়ে জনপ্রিয় এজেন্টিক হারনেসের ভেতরে প্রশিক্ষিত, যাতে সামঞ্জস্যতা আরও ভালো হয়।
  • দক্ষ ইনফারেন্স: Apple M5 Max-এ সেকেন্ডে ২২০ টোকেন এবং AMD Ryzen CPU-তে সেকেন্ডে ১১৩ টোকেন — মাত্র ২.৫ GB-এর কম মেমোরিতে।



এজ ডিভাইসের জন্য কীভাবে তৈরি করলাম একটি নির্ভরযোগ্য এজেন্টিক মডেল

LFM2.5-2.6B প্রি-ট্রেইন করা হয়েছে প্রায় ৩৪ ট্রিলিয়ন টোকেনে, সাথে একটি মিড-ট্রেনিং ফেজ রয়েছে যা কনটেক্সট উইন্ডোকে ১২৮K-তে বাড়িয়ে দেয়। এরপর পোস্ট-ট্রেনিং চারটি ধাপে বেস মডেলকে এজেন্টে রূপান্তরিত করে:

  1. সুপারভাইজড ফাইন-টিউনিং (SFT): দুই রাউন্ড SFT, যেখানে এজেন্টিক ডেটার ওপর বিশেষ জোর দেওয়া হয়েছে — যেমন টুল ব্যবহার, ওয়েব সার্চ এবং হারনেস ট্র্যাজেক্টোরি।
  2. টিচার স্পেশালাইজেশন: প্রতিটি ডোমেইনের জন্য একজন স্পেশালিস্ট টিচার ট্রেইন করা (গণিত, কোড, টুল ব্যবহার ইত্যাদি)।
  3. মাল্টি-ডোমেইন অন-পলিসি ডিস্টিলেশন (MOPD): স্পেশালিস্ট টিচারদের থেকে জ্ঞান একক স্টুডেন্ট মডেলে ডিস্টিল করা।
  4. এজেন্টিক রিইনফোর্সমেন্ট লার্নিং (Agentic RL): বাস্তব এজেন্ট হারনেসের ভেতরে মাল্টি-টার্ন RL চালানো, যেখানে মডেল বিভিন্ন টুল, সিস্টেম প্রম্পট এবং মাল্টি-টার্ন টাস্ক এনভায়রনমেন্টে কাজ করতে শেখে।

LFM2.5-2.6B-Training-Recipe

Agentic RL পাইপলাইন মডেল অপ্টিমাইজেশন, ইনফারেন্স এবং এনভায়রনমেন্ট এক্সিকিউশনকে আলাদা আলাদা উপাদানে ভাগ করে। ট্রেনিং ইঞ্জিন মডেলকে অপ্টিমাইজ করে, আর রোলআউট ইঞ্জিন সর্বশেষ পলিসি ব্যবহার করে অ্যাকশন তৈরি করে। RL ফ্রেমওয়ার্ক রোলআউট চালু, ট্র্যাজেক্টোরি ও রিওয়ার্ড সংগ্রহ এবং মডেল আপডেট করার মাধ্যমে ট্রেনিং লুপ পরিচালনা করে।

অ্যাকশনগুলো একটি স্যান্ডবক্স সার্ভিসের মধ্যে এক্সিকিউট হয়, যেখানে ব্ল্যাকবক্স হারনেস এজেন্টকে হোস্ট করে (যেমন OpenClaw বা Hermes Agent) এবং টাস্ক এনভায়রনমেন্টের সাথে ইন্টারঅ্যাকশন সমন্বয় করে। হারনেস প্রক্সি আমাদের এজেন্টিক হারনেসগুলোকে কোনো পরিবর্তন ছাড়াই ব্ল্যাকবক্স হিসেবে ব্যবহার করতে দেয়, পাশাপাশি RL ট্রেনিং স্যাম্পল পুনর্নির্মাণ ও ভ্যালিডেট করার জন্য প্রয়োজনীয় টোকেন-লেভেল ট্র্যাজেক্টোরি স্বচ্ছভাবে ক্যাপচার করে।

LFM2.5-2.6B-Agentic-RL



বেনচমার্ক ফলাফল

আমরা LFM2.5-2.6B-কে তার চেয়ে ~৪ গুণ বড় মডেলগুলোর সাথে তুলনা করেছি — STEM, নির্দেশনা অনুসরণ, টুল ব্যবহার এবং এজেন্টিক কাজে। গ্রুপের মধ্যে এটিই সবচেয়ে ছোট মডেল, তবুও এটি অন্যদের সঙ্গে পাল্লা দেয় এবং অনেক ক্ষেত্রে তাদের ছাড়িয়ে যায়।

Benchmark LFM2.5-2.6B (2.6B) gemma-4-E2B-it (5.1B) gemma-4-E4B-it (8B) Qwen3.5-4B (4.7B) Qwen3.5-9B (9.7B)
AA Omniscience -29.50 -74.47 -49.03 -54.30 -50.43
AIME25 51.87 26.33 34.27 49.33 56.07
LiveCodeBenchv6 59.41 54.92 63.77 60.85 69.86
IFBench 59.17 34.08 39.24 48.40 56.47
Multi-IF 80.07 69.44 77.35 55.67 62.55
IFStruct 85.49 64.85 76.65 36.25 78.50
BFCLv4 56.88 36.98 46.39 50.56 60.13
ToolSandbox 77.83 52.40 65.00 75.55 76.44
τ³-Bench Banking 5.67 3.35 4.12 5.45 5.15
Claw-Eval average (EN) 62.85 53.14 58.02 62.28 66.53
PinchBench 68.22 44.24 55.09 71.26 71.45
BrowseComp+ (OpenClaw) 26.89 8.31 15.90 24.46 27.23

আপনার অ্যাপের জন্য সবচেয়ে বড় শক্তি হলো নির্দেশনা অনুসরণ এবং টুল ব্যবহার। LFM2.5-2.6B এখানকার প্রতিটি নির্দেশনা-অনুসরণ বেনচমার্কে সবার উপরে, এবং প্রতিটি টুল-ব্যবহার বেনচমার্কেও শীর্ষে — শুধু BFCLv4-তে ৯.৭B-এর Qwen এগিয়ে আছে। এজেন্টিক কাজে এটি দুটি Gemma মডেলকেই হারায় এবং Qwen-দের সঙ্গে সমান তালে থাকে। জ্ঞান-বিষয়ক বেনচমার্কেও এটি সবার আগে, আর গণিতে অনেক কাছাকাছি। শুধু কোডিংয়ে বড় মডেলগুলো স্পষ্টভাবে এগিয়ে আছে, তাই সেক্ষেত্রে বড় কোনো মডেল বেছে নেওয়াই ভালো।



CPU ও GPU-তে ইনফারেন্স স্পিড

LFM2.5-2.6B প্রথম দিন থেকেই ইনফারেন্স ইকোসিস্টেম জুড়ে সাপোর্ট নিয়ে আসে — llama.cpp, MLX, vLLM, SGLang এবং ONNX সহ।

CPU ইনফারেন্স। কার্যকরী LFM2 আর্কিটেকচারের কারণে, LFM2.5-2.6B হলো আমাদের পরীক্ষা করা সবচেয়ে দ্রুততম মডেল — M5 Max-এ সেকেন্ডে ২২০ টোকেন এবং Ryzen AI Max+ 395-এ সেকেন্ডে ১১৩ টোকেন ডিকোড স্পিড। ৩০ টোকেন/সেকেন্ডে এটি ফোনেও শক্তিশালী এজেন্ট চালাতে দেয়।

lfm2_5_2_6b_cpu_inference

GPU ইনফারেন্স। LFM2.5-2.6B তার সাইজ ক্লাসের সবচেয়ে দ্রুততম মডেল — উচ্চ কনকারেন্সিতে সেকেন্ডে প্রায় ১৫ হাজার আউটপুট টোকেন, অর্থাৎ একটি মাত্র H100-এ দিনে প্রায় ১.৩ বিলিয়ন টোকেন।

lfm2_5_2_6b_gpu_inference



LFM2.5-2.6B কীভাবে ব্যবহার করবেন

হাই-ভলিউম ওয়ার্কলোডের জন্য যখন অন-ডিভাইস এজেন্ট দরকার, তখনই LFM2.5-2.6B-এর কথা ভাবুন।

সর্বশেষ transformers ভার্সন ইনস্টল করুন (transformers>=5.0.0-এর সাথে সামঞ্জস্যপূর্ণ):

pip install -U transformers

তারপর মডেল লোড ও রান করুন:

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "LiquidAI/LFM2.5-2.6B"
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    dtype="bfloat16",

)
tokenizer = AutoTokenizer.from_pretrained(model_id)

prompt = "What is C. elegans?"
input_ids = tokenizer.apply_chat_template(
    [{"role": "user", "content": prompt}],
    add_generation_prompt=True,
    return_tensors="pt",
    tokenize=True,
).to(model.device)

output = model.generate(
    input_ids,
    do_sample=True,
    temperature=0.2,
    top_k=80,
    repetition_penalty=1.05,
    max_new_tokens=512,
)
print(tokenizer.decode(output[0], skip_special_tokens=False))



LFM2.5-2.6B ডেমো

এই LFM2.5-2.6B-চালিত রিসার্চ এজেন্টের ব্রাউজার ডেমো দেখে নিন। এজেন্টটি আপনার নির্দিষ্ট প্রশ্ন নিয়ে গবেষণা করতে সাহায্য করে এবং একটি সারসংক্ষেপ তৈরি করে।



শুরু করুন

LFM2.5-2.6B এবং LFM2.5-2.6B-Base — দুটোই আজ Hugging Face-এ উপলব্ধ।

LFM2.5-এর মাধ্যমে আমরা আমাদের সেই ভিশন পূরণ করছি — AI যা যেকোনো জায়গায় চলে। এই মডেলগুলো:

  • ডাউনলোড: Hugging Face-এ LFM2.5-2.6B-Base এবং LFM2.5-2.6B
  • ট্রাই করুন: কোনো সেটআপ ছাড়াই ব্রাউজারে WebGPU ডেমো চালান।
  • আপনার হারনেসে ব্যবহার করুন: OpenClaw, Hermes Agent এবং Pi-এর মতো লোকাল এজেন্ট চালানোর জন্য আমাদের গাইড অনুসরণ করুন।

আপনারা কী তৈরি করেন, তা দেখার অপেক্ষায় রইলাম।



সাইটেশন

এই আর্টিকেলটি নিম্নরূপে সাইট করুন:

Liquid AI, "LFM2.5-2.6B: Deploy Agents Everywhere", Liquid AI Blog, Aug 2026.

অথবা BibTeX সাইটেশন ব্যবহার করুন:

@article{liquidAI202626B,
  author  = {Liquid AI},
  title   = {LFM2.5-2.6B: Deploy Agents Everywhere},
  journal = {Liquid AI Blog},
  year    = {2026},
  note    = {www.liquid.ai/blog/lfm2-5-2-6b},
}



Source link

RELATED ARTICLES

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Most Popular

Recent Comments