NVIDIA Mellanox 920-9B210-00FN-0D0 ঘোষণা করা হয়েছেঃ 400Gb/s NDR এর সাথে আল্ট্রা-স্কেল এআই নেটওয়ার্ক ফাউন্ডেশন পুনরায় সংজ্ঞায়িত করা

NVIDIA Mellanox 920-9B210-00FN-0D0 ঘোষণা: 400Gb/s NDR সহ আল্ট্রা-স্কেল এআই নেটওয়ার্ক ফাউন্ডেশনকে নতুনভাবে সংজ্ঞায়িত করা

বৃহৎ ভাষা মডেলগুলি শত শত বিলিয়ন থেকে ট্রিলিয়ন প্যারামিটারে স্কেল করার সাথে সাথে, ঐতিহ্যবাহী 200Gb/s HDR নেটওয়ার্কগুলি ঘন সমষ্টিগত যোগাযোগ পরিস্থিতিতে তাদের সীমাবদ্ধতা দেখাচ্ছে যেমন অল-টু-অল, যেখানে জিপিইউ ব্যবহার প্রায়শই নেটওয়ার্ক কনজেশনর কারণে কমে যায়। NVIDIA আনুষ্ঠানিকভাবে উন্মোচন করেছে NVIDIA Mellanox 920-9B210-00FN-0D0, একটি 400Gb/s NDR ইনফিনিব্যান্ড সুইচ যা সবচেয়ে বেশি চাহিদাযুক্ত এআই এবং এইচপিসি ওয়ার্কলোডগুলির জন্য প্রয়োজনীয় ব্যান্ডউইথ, ঘনত্ব এবং ইন-নেটওয়ার্ক বুদ্ধিমত্তা সরবরাহ করার জন্য প্রকৌশলী করা হয়েছে।

চ্যালেঞ্জ: যখন HDR একটি বাধা হয়ে দাঁড়ায়

যেসব সংস্থা তাদের জিপিইউ ক্লাস্টার 2,000 নোডের বেশি স্কেল করছে, তাদের জন্য 200Gb/s HDR এর সীমাবদ্ধতা ক্রমশ স্পষ্ট হয়ে উঠছে। অল-রিডিউস এবং অল-টু-অল অপারেশনগুলির সময়—যা ডিস্ট্রিবিউটেড প্রশিক্ষণের জন্য মৌলিক—নেটওয়ার্ক কনজেশন জিপিইউ ব্যবহার 85% থেকে 50% এর নিচে কমিয়ে দিতে পারে, কার্যকরভাবে কম্পিউট বিনিয়োগে লক্ষ লক্ষ ডলার নষ্ট করে। নেটওয়ার্ক স্থপতিরা হাজার হাজার এন্ডপয়েন্ট জুড়ে লসলেস পারফরম্যান্স বজায় রাখার সময় ডিটারমিনিস্টিক সাব-মাইক্রোসেকেন্ড লেটেন্সি সরবরাহ করার দ্বৈত চ্যালেঞ্জের মুখোমুখি হন।

The 920-9B210-00FN-0D0 ইনফিনিব্যান্ড সুইচ OPN (অর্ডার পার্ট নম্বর) 64-পোর্ট OSFP প্ল্যাটফর্মে 400Gb/s NDR পারফরম্যান্স এনে এই চ্যালেঞ্জগুলির সরাসরি মোকাবিলা করে, এমনকি সবচেয়ে বেশি চাহিদাযুক্ত এআই প্রশিক্ষণ পরিবেশে নেটওয়ার্ক-প্ররোচিত স্টলগুলি দূর করার জন্য প্রয়োজনীয় হেডরুম এবং বুদ্ধিমত্তা সরবরাহ করে।

মূল প্রযুক্তিগত বৈশিষ্ট্য

ব্যাপকভাবে গৃহীত MQM9790-NS2F এর একই সিলিকনের উপর নির্মিত, 920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR প্ল্যাটফর্ম এক্সাস্কেল-ক্লাস স্থাপনার জন্য ডিজাইন করা বৈশিষ্ট্যগুলির একটি বিস্তৃত সেট সরবরাহ করে। 920-9B210-00FN-0D0 ডেটাশিট অনুসারে, সুইচটি সরবরাহ করে:

• 64টি 400Gb/s NDR পোর্ট: প্রতিটি OSFP পোর্ট ফরওয়ার্ড এরর কারেকশন (FEC) সহ দ্বিমুখী 400Gb/s সমর্থন করে, 51.2 Tb/s এর একটি সমষ্টিগত সুইচিং ক্ষমতা সরবরাহ করে।
• অতি-নিম্ন লেটেন্সি: 100ns এর কম কাট-থ্রু লেটেন্সি, 920-9B210-00FN-0D0 স্পেসিফিকেশন এ নথিভুক্ত, RDMA এবং MPI অপারেশনগুলির জন্য ন্যূনতম ওভারহেড নিশ্চিত করে।
• ইন্টিগ্রেটেড SHARPv3: সমষ্টিগত অপারেশনগুলি (অল-রিডিউস, অল-টু-অল, ব্রডকাস্ট) সরাসরি সুইচ ফ্যাব্রিকের উপর অফলোড করে, বড় আকারের কাজের জন্য যোগাযোগ লেটেন্সি 40% পর্যন্ত কমিয়ে দেয়।
• অভিযোজিত রাউটিং এবং কনজেশন কন্ট্রোল: হটস্পট এড়াতে ট্র্যাফিককে গতিশীলভাবে পুনরায় রুট করে, প্রতিকূল ট্র্যাফিক প্যাটার্নের অধীনেও অনুমানযোগ্য পারফরম্যান্স বজায় রাখে।
• উন্নত টেলিমেট্রি: প্রতি-ফ্লো এবং প্রতি-পোর্ট কাউন্টার, বাফার অকুপেন্সি মনিটরিং সহ, সক্রিয় ব্যবস্থাপনার জন্য গভীর দৃশ্যমানতা প্রদান করে।

The 920-9B210-00FN-0D0 সামঞ্জস্যপূর্ণ ইকোসিস্টেম NVIDIA-প্রত্যয়িত OSFP কেবল, অপটিক্যাল ট্রান্সসিভার এবং সফ্টওয়্যার সরঞ্জামগুলির একটি বিস্তৃত পরিসর অন্তর্ভুক্ত করে, বিদ্যমান HDR বা গ্রিনফিল্ড NDR পরিবেশগুলিতে নির্বিঘ্ন একীকরণ নিশ্চিত করে। যেসব সংস্থা তাদের পরবর্তী প্রজন্মের পরিকাঠামো পরিকল্পনা করছে, তাদের জন্য সুইচটি মিশ্র HDR/NDR ফ্যাব্রিক সমর্থন করে, যা প্রোডাকশন ওয়ার্কলোডগুলিতে ব্যাঘাত না ঘটিয়ে পর্যায়ক্রমিক আপগ্রেড সক্ষম করে।

বাস্তব-বিশ্বের স্থাপনার চাহিদা পূরণ

নতুন এআই প্রশিক্ষণ ক্লাস্টার ডিজাইন করা বা বিদ্যমান HDR ফ্যাব্রিক আপগ্রেড করা নেটওয়ার্ক স্থপতিদের জন্য, 920-9B210-00FN-0D0 ইনফিনিব্যান্ড সুইচ OPN সমাধান বেশ কয়েকটি আকর্ষণীয় সুবিধা প্রদান করে। এর 64-পোর্ট ঘনত্ব 40-পোর্ট বিকল্পগুলির তুলনায় কম সুইচ এবং কেবলের প্রয়োজনীয়তা সহ প্রতি সুইচ 64টি ডুয়াল-পোর্ট সার্ভার সহ টপ-অফ-র্যাক স্থাপনার অনুমতি দেয়। লিফ-স্পাইন টপোলজিতে, এটি কম স্পাইন টায়ার, কম লেটেন্সি এবং কম মোট মালিকানা খরচ বোঝায়।

সুইচটি NVIDIA-এর ইনফিনিব্যান্ড পোর্টফোলিওর শক্তিশালী ব্যবস্থাপনা ক্ষমতাও উত্তরাধিকার সূত্রে পেয়েছে। NVIDIA-এর ইউনিফাইড ফ্যাব্রিক ম্যানেজার (UFM) এর সাথে, অ্যাডমিনিস্ট্রেটররা ফ্যাব্রিক স্বাস্থ্যের গভীর দৃশ্যমানতা পেতে পারে, প্রভিশনিং স্বয়ংক্রিয় করতে পারে এবং প্রোডাকশন ওয়ার্কলোডগুলিকে প্রভাবিত করার আগে অস্বাভাবিকতাগুলি সক্রিয়ভাবে সনাক্ত করতে পারে। সুইচের ডুয়াল-রিডান্ড্যান্ট পাওয়ার সাপ্লাই এবং হট-সোয়াপযোগ্য ফ্যান মডিউলগুলি মিশন-ক্রিটিক্যাল অ্যাপ্লিকেশনগুলির জন্য 99.999% উপলব্ধতা নিশ্চিত করে।

যখন মূল্যায়ন করা হয় 920-9B210-00FN-0D0 মূল্য এবং মোট মালিকানা খরচ, সুইচটি বড় আকারের স্থাপনার জন্য আকর্ষণীয় অর্থনীতি সরবরাহ করে। যদিও HDR বিকল্পগুলির চেয়ে প্রাথমিক খরচ বেশি, প্রতি-পোর্ট খরচ এবং প্রতি-জিপিইউ নেটওয়ার্কিং খরচ একটি বড় ক্লাস্টারে অ্যামোর্টাইজড হলে উল্লেখযোগ্যভাবে কম হয়, যা NDR কে এক্সাস্কেল প্রকল্পগুলির জন্য ক্রমবর্ধমানভাবে সাশ্রয়ী পছন্দ করে তোলে। বিক্রয়ের জন্য 920-9B210-00FN-0D0 এখন NVIDIA-এর চ্যানেল অংশীদারদের মাধ্যমে উপলব্ধ, এবং প্রাথমিক গ্রাহক শিপমেন্ট ইতিমধ্যেই চলছে।

সারসংক্ষেপ: পরবর্তী প্রজন্মের এআই-এর জন্য NDR ফাউন্ডেশন

The NVIDIA Mellanox 920-9B210-00FN-0D0 উচ্চ-পারফরম্যান্স নেটওয়ার্কিংয়ে একটি উল্লেখযোগ্য পদক্ষেপের প্রতিনিধিত্ব করে, পরবর্তী প্রজন্মের এআই এবং এইচপিসি ক্লাস্টারগুলির জন্য প্রয়োজনীয় ব্যান্ডউইথ, ঘনত্ব এবং বুদ্ধিমত্তা সরবরাহ করে। 400Gb/s NDR গতিকে 64-পোর্ট OSFP ঘনত্ব এবং SHARPv3 ইন-নেটওয়ার্ক কম্পিউটিংয়ের সাথে একত্রিত করে, এই সুইচটি স্থপতিদের স্কেলযোগ্য, ডিটারমিনিস্টিক ফ্যাব্রিক তৈরি করতে সক্ষম করে যা সবচেয়ে বেশি চাহিদাযুক্ত ট্রিলিয়ন-প্যারামিটার ওয়ার্কলোডগুলির সাথে তাল মিলিয়ে চলতে পারে।

যেসব সংস্থা তাদের পরবর্তী প্রজন্মের পরিকাঠামো পরিকল্পনা করছে, তাদের জন্য 920-9B210-00FN-0D0 একটি স্পষ্ট, উচ্চ-পারফরম্যান্স পথ সরবরাহ করে—এটি একটি গ্রিনফিল্ড স্থাপনা হোক বা বিদ্যমান HDR ফ্যাব্রিক থেকে একটি কৌশলগত আপগ্রেড হোক। এর শক্তিশালী বৈশিষ্ট্য সেট, এন্টারপ্রাইজ-গ্রেড পরিচালনাযোগ্যতা এবং বিস্তৃত NVIDIA ইকোসিস্টেমের সাথে নির্বিঘ্ন সামঞ্জস্য সহ, এই সুইচটি এক্সাস্কেল-ক্লাস নেটওয়ার্কিংয়ের একটি ভিত্তিপ্রস্তর হতে প্রস্তুত।