H200 থেকে ব্ল্যাকওয়েল আল্ট্রা: এনভিডিয়ার পরবর্তী প্রজন্মের AI চিপস
AI–এর সহায়তায়

H200 থেকে ব্ল্যাকওয়েল আল্ট্রা: এনভিডিয়ার পরবর্তী প্রজন্মের AI চিপস

H200 এনভিডিয়ার নতুনতম AI চিপ নয়। এনভিডিয়া এটি ঘোষণা করেছিল নভেম্বর ২০২৩-এ, এবং এটি ২০২৪ সালের মাঝামাঝি থেকে বাজারে রয়েছে। মে ২০২৫-এর শেষে এনভিডিয়ার পরবর্তী চিপ হল ব্ল্যাকওয়েল আল্ট্রা, যা তার GTC সম্মেলনে মার্চ মাসে উন্মোচন করা হয়েছিল এবং এটি ২০২৫ সালের দ্বিতীয়ার্ধে অংশীদারদের থেকে আসবে। এখানে প্রতিটি চিপ কী এবং এনভিডিয়ার জন্য দেওয়া দাবি কী তা দেওয়া হয়েছে।

H200: ২০২৩ থেকে একটি মেমোরি আপগ্রেড

এনভিডিয়া ১৩ নভেম্বর ২০২৩-এ SC23 সুপারকম্পিউটিং কনফারেন্সে H200 পরিচয় করিয়েছিল। এটি হপার, H100-এর একই আর্কিটেকচারের উপর নির্মিত। পরিবর্তনটি হল মেমোরি: এনভিডিয়া এটিকে প্রথম GPU হিসেবে ঘোষণা করেছে যার HBM3e রয়েছে, যা ৪.৮ টেরাবাইট প্রতি সেকেন্ডে ১৪১ জিবি বহন করে। এটি H100-এর ক্ষমতার প্রায় দ্বিগুণ, এবং এর মেমোরি ব্যান্ডউইথের ১.৪ গুণ।

"দ্বিগুণ" দাবি একটি পরীক্ষার উপর ভিত্তি করে। এনভিডিয়া বলেছে যে H200 প্রায় দ্বিগুণ ইনফারেন্স গতি প্রদান করে Llama 2-এ, একটি ৭০-বিলিয়ন প্যারামিটার ভাষার মডেল, H100-এর তুলনায়, এবং এর পণ্য পৃষ্ঠায় এটি ১.৯ গুণ বলে উল্লেখ করা হয়েছে। এনার্জিতে, এনভিডিয়া ভাল দক্ষতার দাবি করেছে, না যে কম শক্তি প্রয়োজন: এটি বলেছে যে লাভগুলি আসে "H100-এর মতো একই পাওয়ার প্রোফাইলের মধ্যে"।

image

HGX H200 সার্ভার বোর্ডগুলি চার বা আট GPU ধারণ করে এবং HGX H100 সিস্টেমের সাথে সামঞ্জস্যপূর্ণ, তাই সার্ভার নির্মাতারা বিদ্যমান মেশিনগুলি আপডেট করতে পারে।

একই GPU HBM3e সহ GH200 গ্রেস হপার সুপারচিপেও রয়েছে, যা আগস্ট ২০২৩-এ ঘোষণা করা হয়েছিল, যা এটি এনভিডিয়ার গ্রেস CPU-এর সাথে একক মডিউলে জোড়া করে। আগস্ট ২০২৪-এর মধ্যে, CoreWeave প্রথম ক্লাউড প্রদানকারী হয়ে ওঠে যা সাধারণ প্রাপ্যতা ঘোষণা করে।

ব্ল্যাকওয়েল: পরবর্তী প্রজন্ম

হপারের সত্যিকার উত্তরসূরি হল ব্ল্যাকওয়েল, যা GTC-তে ১৮ মার্চ ২০২৪-এ ঘোষণা করা হয়েছিল। এর ফ্ল্যাগশিপ সিস্টেম, তরল-শীতল GB200 NVL72, ৭২ ব্ল্যাকওয়েল GPU এবং ৩৬ গ্রেস CPU এক র‍্যাকে সংযুক্ত করে। এনভিডিয়া বলেছে যে এটি একই সংখ্যক H100 GPU-তে LLM ইনফারেন্সের তুলনায় ৩০ গুণ পর্যন্ত পারফরম্যান্স অফার করে এবং খরচ এবং এনার্জি ব্যবহারে ২৫ গুণ পর্যন্ত কাটছাঁট করে। এইগুলি একটি কাজের ধরনের জন্য সেরা-কেস চিত্র এবং এনার্জি দাবি ব্ল্যাকওয়েলের, H200-এর নয়।

২৮ মে ২০২৫-এ প্রথম ত্রৈমাসিকের ফলাফল রিপোর্ট করার সময়, CEO জেনসেন হুয়াং বলেছিলেন যে ব্ল্যাকওয়েল NVL72 সিস্টেম "এখন পূর্ণ-স্কেল প্রোডাকশনে রয়েছে সিস্টেম নির্মাতাদের এবং ক্লাউড সার্ভিস প্রদানকারীদের মধ্যে।" রিপোর্টটি আরও দেখিয়েছে যে মার্কিন সরকার চীনে এনভিডিয়ার H20 চিপ রপ্তানির জন্য লাইসেন্স প্রয়োজন হওয়ার কারণে $৪.৫ বিলিয়ন চার্জ করা হয়েছে।

২০২৫-এ এনভিডিয়া যা প্রকাশ করেছে: ব্ল্যাকওয়েল আল্ট্রা

১৮ মার্চ ২০২৫-এ সান জোসে GTC-তে, এনভিডিয়া ব্ল্যাকওয়েল আল্ট্রা ঘোষণা করেছে, ব্ল্যাকওয়েল প্ল্যাটফর্মের পরবর্তী ধাপ। GB300 NVL72 র‍্যাক ৭২ ব্ল্যাকওয়েল আল্ট্রা GPU এবং ৩৬ গ্রেস CPU সংযুক্ত করে, এবং এনভিডিয়া বলছে এটি GB200 NVL72-এর ১.৫ গুণ AI পারফরম্যান্স প্রদান করে। HGX B300 NVL16 সার্ভার, এনভিডিয়া বলছে, ১১ গুণ দ্রুত LLM ইনফারেন্স, ৭ গুণ বেশি কম্পিউট এবং ৪ গুণ বড় মেমোরি অফার করে হপার প্রজন্মের তুলনায়। প্রতি চিপে, টেকক্রাঞ্চ রিপোর্ট করেছে, মেমোরি ১৯২জিবি থেকে বেড়ে ২৮৮জিবি হয়েছে ব্ল্যাকওয়েলে।

"AI একটি বিশাল পদক্ষেপ নিয়েছে — রিজনিং এবং এজেন্টিক AI আরো বেশি কম্পিউটিং পারফরম্যান্সের দাবি করে," হুয়াং বলেছিলেন। এনভিডিয়া আরও দাবি করেছে যে GB300 NVL72 ব্ল্যাকওয়েলের AI কারখানার জন্য রাজস্ব সুযোগ ৫০ গুণ বাড়িয়ে দেয় হপারের তুলনায়। এটি একটি ব্যবসায়িক অনুমান, গতি পরীক্ষার নয়।

এনভিডিয়া আশা করে ব্ল্যাকওয়েল আল্ট্রা পণ্যগুলি অংশীদারদের থেকে ২০২৫ সালের দ্বিতীয়ার্ধে পাওয়া যাবে। ১৯ মে তায়পেইতে কম্পিউটেক্স-এ, হুয়াং একটি GB300 সিস্টেম দেখিয়েছিলেন, যা পিসিম্যাগ রিপোর্ট করেছে তৃতীয় ত্রৈমাসিকে লঞ্চ করতে চলেছে। তিনি আরও NVLink ফিউশন পরিচয় করিয়েছিলেন, যা এনভিডিয়ার NVLink ইন্টারকানেক্টকে অংশীদারদের নিজস্ব CPU এবং কাস্টম চিপগুলির জন্য খুলে দেয়।

GTC-তে মার্চে, হুয়াং এর পরের রোডম্যাপ তুলে ধরেন: ভেরা রুবিন, একটি রুবিন GPU এবং একটি নতুন এনভিডিয়া CPU ভেরা জোড়া দিয়ে, ২০২৬ সালের দ্বিতীয়ার্ধে; রুবিন আল্ট্রা ২০২৭ সালের দ্বিতীয়ার্ধে; এবং একটি আর্কিটেকচার বলা হয় ফেইনম্যান ২০২৮ সালে।

image
image
image
image

এনভিডিয়ার পারফরম্যান্স দাবি পড়ার উপায়

  • বেসলাইন চেক করুন। H200-এর জন্য "প্রায় দ্বিগুণ" একটি লামা ২ ইনফারেন্স পরীক্ষায় H100-এর তুলনায়। GB300 NVL72-এর ১.৫ গুণ আগের ব্ল্যাকওয়েল র্যাকের তুলনায়। ৩০ গুণ এবং ১১ গুণ চিত্রগুলি হপারের তুলনায়। প্রতিটি সংখ্যা একটি ভিন্ন প্রশ্নের উত্তর দেয়।
  • মেমোরি বেশিরভাগ কাজ করছে। H200 H100-এর হপার ডিজাইন বজায় রেখেছিল এবং বড়, দ্রুত মেমোরি থেকে লাভ করেছে। ব্ল্যাকওয়েল আল্ট্রা চিপ প্রতি মেমোরি বাড়িয়েছে, ২৮৮জিবি পর্যন্ত। বড় মডেল চালানোর জন্য, মেমোরি প্রায়ই গতি নির্ধারণ করে।
  • ঘোষণা প্রাপ্যতা নয়। H200 ঘোষণা করা হয়েছিল নভেম্বর ২০২৩-এ এবং মেঘে পৌঁছেছিল ২০২৪ মাঝামাঝিতে। ব্ল্যাকওয়েল আল্ট্রা ঘোষণা করা হয়েছিল মার্চ ২০২৫-এ এবং বছরের দ্বিতীয়ার্ধে পাওয়া যাবে। ক্রেতারা শিপ তারিখের চারপাশে পরিকল্পনা করে, প্রধান বক্তব্যের নয়।

আপডেট: এরপর কী ঘটেছিল (অক্টোবর ২০২৬)

এই নিবন্ধটি প্রথম প্রকাশিত হয়েছিল ২৮ মে ২০২৫-এ। এখানে কিভাবে গল্পটি তার পর থেকে বিকশিত হয়েছে:

  • আগস্ট ২০২৫: এনভিডিয়ার দ্বিতীয় ত্রৈমাসিকের ফলাফল হুয়াং-কে উদ্ধৃত করেছে: "ব্ল্যাকওয়েল আল্ট্রার উৎপাদন পূর্ণ গতিতে চলছে, এবং চাহিদা অসাধারণ।" কোম্পানি রিপোর্ট করেছে যে ত্রৈমাসিকে চীন-ভিত্তিক গ্রাহকদের কাছে কোনো H20 বিক্রি হয়নি।
  • ডিসেম্বর ২০২৫: প্রেসিডেন্ট ট্রাম্প বলেছিলেন যে যুক্তরাষ্ট্র এনভিডিয়াকে অনুমোদিত গ্রাহকদের কাছে H200 চিপগুলি পাঠানোর অনুমতি দেবে, যার ২৫% মার্কিন যুক্তরাষ্ট্রকে প্রদান করতে হবে। ব্ল্যাকওয়েল এবং আসন্ন রুবিন চিপগুলি অন্তর্ভুক্ত ছিল না।
  • জানুয়ারি ২০২৬: CES-এ ৫ জানুয়ারি, এনভিডিয়া রুবিন প্ল্যাটফর্ম চালু করেছে, ছয়টি নতুন চিপ সহ রুবিন GPU এবং ভেরা CPU, যা অংশীদার পণ্যগুলি ২০২৬ এর দ্বিতীয়ার্ধে আসতে চলেছে। এনভিডিয়া দাবী করেছে ব্ল্যাকওয়েলের তুলনায় ইনফারেন্স খরচ প্রতি টোকেন পর্যন্ত ১০ গুণ কম। একই মাসে, প্রশাসন আনুষ্ঠানিকভাবে চীনে H200 বিক্রির অনুমোদন দিয়েছে, তবে শর্তসাপেক্ষে।
  • মার্চ ২০২৬: ১৬ মার্চ GTC-তে, এনভিডিয়া বলেছে যে ভেরা রুবিন প্ল্যাটফর্মে পূর্ণ উৎপাদনে সাতটি চিপ ছিল, ইনফারেন্সের জন্য একটি নতুন গ্রোক ৩ LPU যোগ করেছে। হুয়াং ফেইনম্যানকে নামকরণ করেছেন, একটি নতুন CPU রোসা সহ, পরবর্তী আর্কিটেকচার হিসেবে এবং বলেছেন যে তিনি ২০২৫ থেকে ২০২৭ পর্যন্ত কমপক্ষে $১ ট্রিলিয়ন আয়ের প্রত্যাশা করছেন।
  • এপ্রিল থেকে আগস্ট ২০২৬: চীনে H200 বিক্রি থমকে গেছে। ২২ এপ্রিল, বাণিজ্য সচিব হাওয়ার্ড লুটনিক একটি সেনেট শুনানিতে বলেছেন যে বেইজিং চীনা কোম্পানিগুলিকে সেগুলি কিনতে দেয়নি: "আমরা এখনো তাদের চিপ বিক্রি করিনি।" জুলাইয়ে, একটি বাণিজ্য কর্মকর্তা বলেছিলেন "খুব ছোট পরিমাণের চিপ" পাঠানো হয়েছে। আগস্টে, ফাইন্যান্সিয়াল টাইমস রিপোর্ট করেছে যে বাইটড্যান্স এবং টেনসেন্ট প্রত্যেকে প্রায় ১০,০০০ H200 পেয়েছে।
  • আগস্ট ২০২৬: এনভিডিয়া ত্রৈমাসিক আয় $৯৬.২ বিলিয়ন রিপোর্ট করেছে এবং বলেছে যে ভেরা রুবিন পূর্ণ উৎপাদনে প্রবেশ করছে, র‍্যাকগুলি CoreWeave, Google Cloud, Microsoft Azure, Oracle Cloud Infrastructure এবং Nebius-এ চলছে। এর আউটলুক এখনও চীন থেকে কোনো ডেটা সেন্টার কম্পিউট আয় অনুমান করেনি।

২০২৬ সালের শেষের দিকে, H200 এনভিডিয়ার নতুনতম সিস্টেমগুলির দুই প্রজন্ম পিছিয়ে ছিল, এবং এর সবচেয়ে বড় গল্প গতির পরিবর্তে রপ্তানি নীতি ছিল।

সূত্র

সাপ্তাহিক অন্তর্দৃষ্টি সাবস্ক্রাইব করুন

AI, SEO, এবং Growth Marketing বিষয়ে সাপ্তাহিক অন্তর্দৃষ্টি আপনার ইনবক্সে পান। কোনো স্প্যাম নয়, শুধু সেরা বিষয়বস্তু।

সাবস্ক্রাইব না করতে চাইলে? একই অন্তর্দৃষ্টির জন্য এবং সংযুক্ত থাকতে LinkedIn-এ আমাকে অনুসরণ করুন