AI Chip শক্তিশালী হলেই সব সমস্যার সমাধান হয় না
AI hardware নিয়ে নতুন announcement এলেই আমরা সাধারণত GPU কত দ্রুত, কতগুলো core আছে বা কত বেশি compute power পাওয়া যাবে—এসব নিয়েই কথা বলি। কিন্তু processor খুব দ্রুত কাজ করতে পারলেও memory যদি সময়মতো data পৌঁছে দিতে না পারে, সেই শক্তির একটা অংশ কাজে লাগানো যায় না।
NVIDIA এবার ঠিক এই জায়গাতেই হাত দিয়েছে। নতুন NVHBM memory architecture standard HBM4E-এর তুলনায় প্রতি stack-এ সর্বোচ্চ 30% বেশি bandwidth দিতে পারে। একই সঙ্গে HBM-এর power consumption সর্বোচ্চ 15% কমানোর দাবি করছে companyটি।
AI hardware ও নতুন প্রযুক্তির আরও খবর পাওয়া যাবে TechnicalBD-এর AI News বিভাগে।
NVHBM কী, আর সাধারণ HBM থেকে আলাদা কোথায়?
HBM বা High Bandwidth Memory মূলত এমন কাজের জন্য তৈরি, যেখানে processor-কে খুব অল্প সময়ে বিপুল পরিমাণ data দিতে হয়। AI accelerator এবং high-performance GPU-তে তাই এই memory গুরুত্বপূর্ণ।
NVHBM-এ NVIDIA একটি custom base die এবং memory controller ব্যবহার করছে। Traditional HBM design-এ memory controller-এর জন্য main compute die-তে জায়গা রাখতে হয়। NVIDIA সেই কাজের একটি বড় অংশ memory stack-এর base die-তে সরিয়ে নিচ্ছে।
শুনতে ছোট engineering change মনে হতে পারে। কিন্তু AI chip-এর মতো বিশাল processor-এ silicon-এর প্রতিটি অংশের মূল্য আছে।
| বিষয় | Standard HBM4E | NVIDIA NVHBM |
|---|---|---|
| Bandwidth | Baseline | সর্বোচ্চ 30% বেশি |
| HBM Power | Baseline | সর্বোচ্চ 15% কম |
| Memory Controller | Compute die-তে | HBM base die-তে |
| PHY/Support Area | বেশি | সর্বোচ্চ 67% কম |
| ব্যবহার | সাধারণ HBM | Custom AI accelerator |
খালি জায়গাটাই হতে পারে বড় সুবিধা
NVIDIA-এর হিসাবে নতুন design PHY এবং support circuitry-এর প্রয়োজনীয় area সর্বোচ্চ 67% কমাতে পারে। এর ফলে মূল compute die-তে আরও বেশি জায়গা পাওয়া যায়।
আর এখানেই NVHBM আমার কাছে বেশি interesting। শুধু memory 30% দ্রুত হওয়াটা নয়, chip designer সেই বাঁচানো জায়গায় আরও compute hardware বা অন্য feature বসাতে পারবেন। NVIDIA বলছে, নির্দিষ্ট design-এ compute-এর জন্য সর্বোচ্চ 30% বেশি die area পাওয়া যেতে পারে।
অর্থাৎ একই package-এর ভেতরে শুধু দ্রুত memory নয়, আরও শক্তিশালী processor তৈরির সুযোগও তৈরি হচ্ছে।
15% কম Power শুনতে ছোট, Data Center-এ কিন্তু নয়
নিজের desktop PC-তে 10–20 watt কমলে electricity bill-এ হয়তো খুব বড় পরিবর্তন চোখে পড়বে না। কিন্তু হাজার হাজার AI accelerator একসঙ্গে চলা data center-এ হিসাবটা সম্পূর্ণ আলাদা।
Memory যদি 15% কম power ব্যবহার করে, তাহলে শুধু electricity consumption নয়, cooling-এর ওপর চাপও কমতে পারে। একই power budget-এর মধ্যে আরও বেশি AI workload চালানোর সুযোগও তৈরি হয়।
AI infrastructure-এ এখন performance-এর পাশাপাশি প্রতি watt-এ কতটা কাজ হচ্ছে, সেটাও বড় প্রতিযোগিতা। তাই এই 15% সংখ্যাটা 30% bandwidth-এর চেয়ে কম গুরুত্বপূর্ণ নয়।
এটা কি আমাদের PC-এর RAM বদলে দেবে?
না। অন্তত এখনকার announcement থেকে তেমন কিছু বোঝা যাচ্ছে না।
NVHBM desktop DDR memory-এর replacement নয়। এমনকি এটিকে সাধারণ gaming GPU-এর নতুন memory হিসেবেও ঘোষণা করা হয়নি। এর মূল লক্ষ্য AI infrastructure এবং custom accelerator বা XPU।
তাই আগামী GeForce card-এ “NVHBM থাকবে”—এমন সিদ্ধান্তে এখনই যাওয়া ঠিক হবে না।
NVIDIA নিজের Chip-এর বাইরেও যেতে চায়
এই announcement-এর আরেকটি interesting দিক আছে। NVIDIA শুধু নিজের GPU-র জন্য NVHBM আটকে রাখছে না।
partner-রা custom AI chip তৈরির সময় NVIDIA-এর NVHBM base die এবং PHY technology ব্যবহার করতে পারবে। অর্থাৎ কোনো company নিজের accelerator বানালেও NVIDIA-এর memory ও interconnect ecosystem-এর সঙ্গে সেটি যুক্ত হতে পারে।
এখানেই NVIDIA-এর strategyটা বেশ পরিষ্কার। AI market-এ শুধু GPU বিক্রি নয়, অন্যদের তৈরি AI chip-এর ভেতরেও নিজের technology-এর জায়গা তৈরি করা।
Amazon প্রথম দিকেই আছে
NVIDIA জানিয়েছে, Amazon-এর chip-design unit Annapurna Labs NVHBM ব্যবহার করা প্রথম partner হবে। AWS-এর custom AI infrastructure-এর জন্য বিষয়টি বিশেষভাবে গুরুত্বপূর্ণ হতে পারে।
Amazon নিজেই Trainium-এর মতো AI accelerator তৈরি করছে। ফলে NVIDIA-এর technology শুধু NVIDIA GPU-তেই নয়, অন্য company-এর custom chip architecture-এর সঙ্গেও কাজ করার পথ তৈরি হচ্ছে।
সাধারণ ব্যবহারকারীর কেন বিষয়টি জানা দরকার?
আমরা হয়তো NVHBM memory কিনে নিজের PC-তে লাগাব না। কিন্তু ChatGPT-এর মতো AI service, image generation বা cloud AI যত বড় হচ্ছে, তার পেছনের data center-গুলোর memory bandwidth এবং power requirement-ও তত গুরুত্বপূর্ণ হচ্ছে।
আর infrastructure চালানো যদি দ্রুত ও efficient হয়, দীর্ঘমেয়াদে তার প্রভাব AI service-এর speed, capacity এবং operating cost-এর ওপর পড়তে পারে। তাই NVHBM আপাতত data center-এর technology হলেও এর প্রভাব শুধু server room-এর মধ্যেই আটকে থাকবে—এমনটা ধরে নেওয়ার কারণ নেই।
শেষ কথা
প্রথম দেখায় NVHBM আরেকটা কঠিন semiconductor announcement মনে হতে পারে। কিন্তু সহজ করে বললে NVIDIA তিনটি জিনিস চাইছে—memory থেকে data আরও দ্রুত আনতে, সেই কাজে কম power খরচ করতে এবং main AI chip-এ আরও compute বসানোর জায়গা তৈরি করতে।
30% বেশি bandwidth আর 15% কম HBM power বাস্তব product-এ ঠিক কতটা performance difference তৈরি করবে, সেটা benchmark না আসা পর্যন্ত জানা যাবে না। তবে NVIDIA যে AI race-এ শুধু GPU core নয়, memory architecture-কেও বড় অস্ত্র হিসেবে দেখছে, NVHBM তার ভালো উদাহরণ।
