মেলানক্স (এনভিআইডিআইএ মেলানক্স) 920-9B210-00FN-0D0 ইনফিনিব্যান্ড সুইচ প্রযুক্তিগত সমাধান

এই প্রযুক্তিগত শ্বেতপত্রটি স্থপতি, প্রাক-বিক্রয় প্রকৌশলী এবং অপারেশন দলগুলিকে কেন্দ্র করে একটি বিস্তৃত রেফারেন্স ডিজাইন সরবরাহ করেMellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0ইনফিনিব্যান্ড সুইচ। সমাধানটি আধুনিক এআই এবং এইচপিসি পরিবেশে সবচেয়ে চাপের চ্যালেঞ্জগুলিকে মোকাবেলা করে: নেটওয়ার্ক-প্ররোচিত লেটেন্সি, কনজেশন এবং প্রথাগত ইথারনেট কাপড়ের স্কেলেবিলিটি সীমাবদ্ধতা।

1. প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

বৃহৎ ভাষা মডেল প্রশিক্ষণ, আণবিক গতিবিদ্যা সিমুলেশন, বা আবহাওয়ার পূর্বাভাসের জন্য বড় আকারের GPU ক্লাস্টার স্থাপনকারী সংস্থাগুলি একটি সাধারণ বাধার সম্মুখীন হয়: ইন্টারকানেকশন ফ্যাব্রিক। প্রচলিত ক্ষতিকারক ইথারনেট কার্যকরী সব-কমানোর জন্য এবং সমস্ত-থেকে-সমস্ত যৌথ ক্রিয়াকলাপের জন্য প্রয়োজনীয় নির্ধারক, সাব-মাইক্রোসেকেন্ড লেটেন্সি গ্যারান্টি দিতে পারে না। বাস্তব-বিশ্ব স্থাপনা থেকে চিহ্নিত মূল প্রয়োজনীয়তাগুলির মধ্যে রয়েছে:

• লেটেন্সি-সংবেদনশীল MPI ওয়ার্কলোডের জন্য এন্ড-টু-এন্ড লেটেন্সি 1µs এর নিচে
• লসলেস, লাইন-রেট 400Gb/s প্রতি পোর্টে কোনো হেড-অফ-লাইন ব্লকিং ছাড়াই
• ইন-নেটওয়ার্ক কম্পিউটিং হোস্ট সিপিইউ থেকে যৌথ অপারেশন অফলোড করতে
• ফ্যাব্রিক রি-আর্কিটেক্টিং ছাড়াই 8 থেকে 2,000+ GPU নোডের বিরামহীন মাপযোগ্যতা

এই চাহিদা আমাদের নকশা দল নির্বাচন করতে নেতৃত্বে920-9B210-00FN-0D0পরবর্তী প্রজন্মের লো-লেটেন্সি ফ্যাব্রিকের জন্য ভিত্তিগত বিল্ডিং ব্লক হিসাবে।

2. সামগ্রিক নেটওয়ার্ক/সিস্টেম আর্কিটেকচার ডিজাইন

প্রস্তাবিত আর্কিটেকচারটি অ-ব্লকিং, পূর্ণ-দ্বিখন্ড ব্যান্ডউইথের জন্য অপ্টিমাইজ করা একটি দ্বি-স্তরের পাতা-মেরুদণ্ডী টপোলজি গ্রহণ করে। সমস্ত কম্পিউট নোড (জিপিইউ সার্ভার, স্টোরেজ অ্যাপ্লায়েন্স, ম্যানেজমেন্ট হোস্ট) পাতার সুইচগুলির সাথে সংযোগ স্থাপন করে, যখন মেরুদণ্ডের সুইচগুলি পাতার মধ্যে যেকোনো-থেকে-যে কোনো সংযোগ প্রদান করে। এই নকশাটি ওভারসাবস্ক্রিপশন দূর করে এবং যোগাযোগের ধরণ নির্বিশেষে অনুমানযোগ্য বিলম্বিতা নিশ্চিত করে।

একটি রেফারেন্স 512-GPU ক্লাস্টারের জন্য, আমরা 16টি পাতার সুইচ এবং 8টি মেরুদণ্ডের সুইচ স্থাপন করি, প্রতিটিNVIDIA Mellanox 920-9B210-00FN-0D0. লিফ-স্পাইন লিঙ্কগুলি 400Gb/s NDR-এ কাজ করে, যার ফলে একটি সামগ্রিক ফ্যাব্রিক ব্যান্ডউইথ 200 Tb/s ছাড়িয়ে যায়। অ্যাডাপটিভ রাউটিং (এআর) এবং কনজেশন কন্ট্রোল অ্যালগরিদমগুলি সমস্ত পোর্ট জুড়ে সক্রিয় করা হয়েছে যাতে গতিশীলভাবে ট্র্যাফিকের ভারসাম্য বজায় থাকে এবং ইনকাস্ট ইভেন্টের সময় হটস্পটগুলি এড়ানো যায়।

3. 920-9B210-00FN-0D0 এবং মূল পার্থক্যকারীদের ভূমিকা

দ920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRসুইচ পাতা এবং মেরুদণ্ড উভয় হিসাবে কাজ করে, সমগ্র ফ্যাব্রিক জুড়ে সামঞ্জস্যপূর্ণ কর্মক্ষমতা প্রদান করে। এর সমালোচনামূলক স্থাপত্য সুবিধার মধ্যে রয়েছে:

প্রকৌশলীরা সংগ্রহের মূল্যায়ন খুঁজে পাবেন920-9B210-00FN-0D0 InfiniBand সুইচ OPN(অর্ডারিং পার্ট নম্বর) উদ্ধৃতি এবং বিতরণকে সহজ করে। আন্তঃকার্যযোগ্যতা যাচাইকরণের জন্য,920-9B210-00FN-0D0 ডেটাশিটএবং920-9B210-00FN-0D0 স্পেসিফিকেশনConnectX-7, BlueField-3 DPUs এবং তৃতীয় পক্ষের স্টোরেজ অ্যাপ্লায়েন্সের সাথে বিস্তারিত সামঞ্জস্যপূর্ণ ম্যাট্রিক্স প্রদান করুন।

4. স্থাপনা এবং স্কেলিং সুপারিশ

উৎপাদন ব্যাঘাত কমাতে আমরা পর্যায়ক্রমে স্থাপনা পদ্ধতির সুপারিশ করি:

• পর্যায় 1 (পাইলট):8 থেকে 16 GPU নোড + 2920-9B210-00FN-0D0সুইচ (একক রেল টপোলজি)। RDMA কর্মক্ষমতা যাচাই করুন এবং বেসলাইন মেট্রিক্স সংগ্রহ করুন।
• পর্যায় 2 (আংশিক উত্পাদন):4 পাতা + 2 কাঁটা ব্যবহার করে 128 GPU-তে স্কেল করুন। অভিযোজিত রাউটিং এবং SHARPv3 সক্ষম করুন৷
• পর্যায় 3 (সম্পূর্ণ উৎপাদন):512+ GPU-এর জন্য 16টি পাতা + 8টি কাঁটা স্থাপন করুন। NVIDIA UFM ব্যবহার করে মাল্টি-পাথ রাউটিং এবং ফ্যাব্রিক পার্টিশন প্রবর্তন করুন।

ক্যাবলিংয়ের জন্য, 5 মিটারের নিচে চালানোর জন্য সক্রিয় অপটিক্যাল কেবল (AOC) বা সক্রিয় তামার তার ব্যবহার করুন; লম্বা কাঁটা বা ক্রস-র্যাক লিঙ্কের জন্য, একক-মোড ফাইবার সহ 400Gb/s NDR ট্রান্সসিভার স্থাপন করুন। উপর সব পোর্ট920-9B210-00FN-0D0 সামঞ্জস্যপূর্ণইকোসিস্টেম 400Gb/s এবং 200Gb/s অপারেশন মোডের মধ্যে স্বয়ংক্রিয় আলোচনা সমর্থন করে।

5. অপারেশন, মনিটরিং এবং ট্রাবলশুটিং

উৎপাদন প্রস্তুতির জন্য দৃঢ় পর্যবেক্ষণের প্রয়োজন। আমরা সংহত920-9B210-00FN-0D0 InfiniBand সুইচ OPN সমাধানNVIDIA ইউনিফাইড ফ্যাব্রিক ম্যানেজার (UFM) এর সাথে। মূল অপারেশনাল ক্ষমতা অন্তর্ভুক্ত:

• রিয়েল-টাইম টেলিমেট্রি:প্রতি-পোর্ট কাউন্টার, লেটেন্সি হিস্টোগ্রাম, বাফার দখল, এবং প্রমিথিউস/গ্রাফাইটের মাধ্যমে রপ্তানি করা কনজেশন বিজ্ঞপ্তি।
• স্বয়ংক্রিয় ব্যর্থতা:সাব-সেকেন্ড লিঙ্ক তারের বা ট্রান্সসিভার ব্যর্থতার উপর পুনরায় রাউটিং।
• কর্মক্ষমতা নির্ণয়:বিল্ট-ইন SHARP পারফরম্যান্স কাউন্টার এবং ফ্যাব্রিক বিশ্লেষক সরঞ্জামগুলি ধীর-নিষ্কাশন নোডগুলি সনাক্ত করতে।

সাধারণ সমস্যার জন্য, পড়ুন920-9B210-00FN-0D0 ডেটাশিটত্রুটি কোড এবং প্রস্তাবিত সংশোধনমূলক কর্মের জন্য। ক্ষমতা সংযোজন পরিকল্পনা করার সময়, পরামর্শ করুন920-9B210-00FN-0D0 মূল্যশুধুমাত্র পাতা এবং সম্পূর্ণ মেরুদণ্ডের সম্প্রসারণের মধ্যে ট্রেড-অফের মডেল।

6. সারাংশ এবং মূল্য মূল্যায়ন

দNVIDIA Mellanox 920-9B210-00FN-0D0-ভিত্তিক সমাধান ডিটারমিনিস্টিক সাব-মাইক্রোসেকেন্ড লেটেন্সি, লসলেস 400Gb/s থ্রুপুট এবং RDMA/HPC/AI ক্লাস্টারগুলির জন্য ইন-নেটওয়ার্ক কম্পিউটিং ত্বরণ প্রদান করে। বিকল্প 400Gb ইথারনেট ডিজাইনের তুলনায়, এই InfiniBand ফ্যাব্রিক 2.5x কম অল-রিডুস লেটেন্সি অর্জন করে এবং SHARPv3 এর মাধ্যমে 90% পর্যন্ত সম্মিলিত ট্রাফিক দূর করে। প্রতিষ্ঠানের জন্য মূল্যায়ন920-9B210-00FN-0D0 বিক্রয়ের জন্যবিকল্পগুলিতে, মালিকানার মোট খরচ সাধারণত 6-12 মাসের মধ্যে পুনরুদ্ধার করা হয় উচ্চতর GPU ব্যবহারের মাধ্যমে এবং কাজ শেষ করার সময় হ্রাস করা। আমরা যেকোনো নতুন বা স্কেলিং এআই পরিকাঠামোর জন্য অবিলম্বে পাইলট মোতায়েন করার সুপারিশ করি।