মেলানক্স (এনভিআইডিআইএ মেলানক্স) 920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ প্রযুক্তিগত সমাধান

মেলানক্স (এনভিআইডিআইএ মেলানক্স) 920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ প্রযুক্তিগত সমাধান ¢ আরডিএমএ / এইচপিসি / এআই ক্লাস্টারগুলির জন্য নিম্ন-ল্যাটেনসি ইন্টারকানেক্ট অপ্টিমাইজেশন

এই টেকনিক্যাল হোয়াইট পেপার একটি ব্যাপক সমাধান স্থাপত্য উপস্থাপনমেলানক্স (এনভিআইডিআইএ মেলানক্স) ৯২০-৯বি১১০-০০এফএইচ-০ডি০InfiniBand সুইচ। নেটওয়ার্ক আর্কিটেক্টস, প্রাক-বিক্রয় প্রকৌশলী এবং অপারেশন লিডারদের লক্ষ্য করে এই নথিটি বিস্তারিতভাবে ব্যাখ্যা করে যে কিভাবে920-9B110-00FH-0D0আমরা স্থাপত্য নকশা, মূল প্রযুক্তিগুলি, এইচপিসি এবং এআই ক্লাস্টারগুলির জন্য নির্ধারিত কম-ল্যাটেনসি, ক্ষতিহীন আরডিএমএ এবং স্কেলযোগ্য 200 গিগাবাইট / সেকেন্ডের এইচডিআর ব্যান্ডউইথ সরবরাহ করি।বাস্তবায়ন টপোলজি, অপারেশনাল সেরা অনুশীলন, এবং মূল্য মূল্যায়ন।

1. প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

আধুনিক এআই প্রশিক্ষণ, বৈজ্ঞানিক সিমুলেশন এবং ডেটা-সমৃদ্ধ বিশ্লেষণের জন্য এমন নেটওয়ার্ক ফ্যাব্রিকের প্রয়োজন যা ধারাবাহিক সাব-মাইক্রোসেকেন্ড লেটেন্সি, শূন্য প্যাকেট ক্ষতি এবং উচ্চ বিসেকশন ব্যান্ডউইথ সরবরাহ করে।ঐতিহ্যগত ইথারনেট ভিত্তিক সমাধান, এমনকি RoCEv2 উন্নতির সাথেও, প্রায়শই জটিল জমে থাকা ব্যবস্থাপনা, পিএফসি টিউনিং ওভারহেড এবং লোডের অধীনে অনির্দেশ্য লেটেনসির কারণে কম পড়ে।64 থেকে 512 জিপিইউ নোডের ক্লাস্টার স্থাপনকারী সংস্থাগুলির জন্য, এমন একটি সুনির্দিষ্টভাবে নির্মিত ইন্টারকানেকশন প্রয়োজন যা পারফরম্যান্স, খরচ এবং অপারেশনাল সরলতাকে ভারসাম্যপূর্ণ করে।

এইচপিসি/এআই প্রয়োগের ক্ষেত্রে চিহ্নিত প্রধান প্রকল্পের প্রয়োজনীয়তার মধ্যে রয়েছেঃ

• সম্পূর্ণ লোডের অধীনে শেষ থেকে শেষ সুইচ লেটেন্সি < 1 μs (পোর্ট-টু-পোর্ট)
• জমে থাকা প্যাকেজ ড্রপ সহ ক্ষতিহীন ফ্যাব্রিক
• পূর্ণ বিসেকশন ব্যান্ডউইথ সহ 64 ′′ 512 নোড সমর্থনকারী স্কেলযোগ্য টোপোলজি
• ইন্টিগ্রেটেড টেলিমেট্রি এবং স্বয়ংক্রিয় ত্রুটি পুনরুদ্ধারের সাথে সরলীকৃত অপারেশন
• মাঝারি পরিসরের বাজেটের জন্য প্রতি বন্দরে ব্যয়-কার্যকর মূল্য নির্ধারণ

দ্যএনভিআইডিআইএ মেলানোক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০এটি 200 গিগাবাইট / সেকেন্ডের এইচডিআর (উচ্চ ডেটা রেট) প্রযুক্তি, অভিযোজিত রাউটিং এবং 1 ইউ, শক্তি-কার্যকর প্ল্যাটফর্মে SHARP সমষ্টিগত অফলোডকে একত্রিত করে সরাসরি এই চাহিদা পূরণ করে।920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ OPNএকটি পরিষ্কার অর্ডার অংশ নম্বর দিয়ে ক্রয় সরলীকৃত, deployments জুড়ে সামঞ্জস্যপূর্ণ কনফিগারেশন নিশ্চিত।

2. সামগ্রিক নেটওয়ার্ক / সিস্টেম আর্কিটেকচার ডিজাইন

প্রস্তাবিত আর্কিটেকচারটি একটি দ্বি-স্তরীয় পাতা-পিঁড়ির (ফ্যাট-ট্রি) টপোলজি অনুসরণ করে, যা পূর্ণ বিসেশন ব্যান্ডউইথ এবং উচ্চ স্থিতিস্থাপকতা সরবরাহ করে। প্রতিটি পাতা ব্লক একাধিক র্যাক নিয়ে গঠিত,প্রতিটি র্যাক হাউজিং দুই সঙ্গে920-9B110-00FH-0D0রিডান্ডান্সির জন্য সুইচগুলি। স্পিন স্তরটি সমস্ত পাতার সুইচ থেকে ট্র্যাফিককে একত্রিত করে, যে কোনও দুটি শেষ পয়েন্টের মধ্যে অ-ব্লকিং যোগাযোগ নিশ্চিত করে। একটি সাধারণ 256-GPU ক্লাস্টারের জন্য,নকশাটি আটটি পাতার সুইচ ব্যবহার করে (প্রতিটি 200G লিঙ্কের মাধ্যমে 32 টি জিপিইউ নোড সংযোগ করে) এবং চারটি স্পিন সুইচ, সবগুলোই ২০০ জি এইচডিআর অপটিক্যাল বা ডিএসি ক্যাবল ব্যবহার করে আন্তঃসংযুক্ত।

সুইচটি 200 গিগাবাইট / সেকেন্ড প্রতি পোর্ট ঘনত্বের জন্য নমনীয় টপোলজিগুলিকে অনুমতি দেয়, যার মধ্যে রয়েছেঃ

• ৩-স্তরের ক্লোজ (ফ্যাট-ট্রি):ট্রাফিকের পূর্বাভাসের সাথে ভারসাম্যপূর্ণ কাজের জন্য আদর্শ।
• ড্রাগনফ্লাই+:অতি-বড় ক্লাস্টারগুলির জন্য উচ্চ রেডিক্স এবং দক্ষ গ্লোবাল যোগাযোগের প্রয়োজন।

দ্য920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDRপ্ল্যাটফর্মটি সুইচকে সমর্থন করে, এনভিআইডিএএর এইচডিআর বাস্তুতন্ত্রের সাথে সামঞ্জস্যতা নিশ্চিত করে, যার মধ্যে কানেক্টএক্স-৬ এবং কানেক্টএক্স-৭ অ্যাডাপ্টার রয়েছে।920-9B110-00FH-0D0 সামঞ্জস্যপূর্ণনকশাটি এনভিআইডিআইএ'র অংশীদার প্রোগ্রামের মাধ্যমে বৈধ তৃতীয় পক্ষের অপটিক্সকেও সমর্থন করে, যা স্থাপনার নমনীয়তা সরবরাহ করে।

3. ভূমিকা ও মূল বৈশিষ্ট্যমেলানক্স (এনভিআইডিআইএ মেলানক্স) ৯২০-৯বি১১০-০০এফএইচ-০ডি০সমাধানের মধ্যে

দ্যএনভিআইডিআইএ মেলানোক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০এই সমাধানের মূল ভিত্তি হল একটি শক্তিশালী সেট উন্নত নেটওয়ার্কিং ক্ষমতা প্রদান করাঃ

• 200 গিগাবাইট/সেকেন্ড HDR প্রতি পোর্টে✓ কট-থ্রু সুইচিং সহ পোর্ট-টু-পোর্ট লেটেন্সি সরবরাহ করে, যা লেটেন্সি-সংবেদনশীল আরডিএমএ এবং এমপিআই ওয়ার্কলোডগুলির জন্য আদর্শ।
• অভিযোজিত রুটিংপ্যাকেট প্রতি গতিশীলভাবে কম-জটযুক্ত পথ নির্বাচন করে, হটস্পট লিঙ্কগুলি এড়ানো এবং অসমত্র ট্র্যাফিক প্যাটার্নগুলির অধীনেও ধারাবাহিক পারফরম্যান্স বজায় রাখে।
• SHARPv2 (স্কেলেবল হিয়ারারকিয়াল এগ্রিগেশন অ্যান্ড রিডাকশন প্রোটোকল)✓ হোস্ট সিপিইউ থেকে সমষ্টিগত যোগাযোগ (সমস্ত-হ্রাস, সম্প্রচার) হ্রাস করে, নেটওয়ার্ক চ্যাট হ্রাস করে এবং এআই প্রশিক্ষণের দক্ষতা ২৫% পর্যন্ত উন্নত করে।
• নেটওয়ার্ক কম্পিউটিংএটি ডেটা হ্রাস এবং বিভাগকে সমর্থন করে, কম্পিউটারের জন্য মূল্যবান জিপিইউ সংস্থান মুক্ত করে।
• উন্নত টেলিমেট্রি👉 প্রতি বন্দর কাউন্টার, বাফার দখলের হিস্টোগ্রাম, এবং পাথ-স্তরের বিলম্বের মেট্রিক্স, সবই প্রাক্টিভ মনিটরিংয়ের জন্য UFM বা REST API এর মাধ্যমে এক্সপোর্টযোগ্য।

দ্য920-9B110-00FH-0D0 স্পেসিফিকেশনএছাড়াও প্যাসিভ কপার ডিএসি এবং অ্যাক্টিভ অপটিক্যাল মডিউল উভয়ের জন্য সমর্থন অন্তর্ভুক্ত করে, ইনট্রা-র্যাক (≤5 মিটার) থেকে ইন্টার-র্যাক (২০০ জি এসআর 4 অপটিক্স সহ ১০০ মিটার পর্যন্ত) দূরত্বের নমনীয়তা সরবরাহ করে।উচ্চ ঘনত্বের প্রয়োগের প্রয়োজন এমন সংস্থাগুলির জন্য, সুইচ ০১ ইউ ফর্ম ফ্যাক্টর এবং কম শক্তি খরচ (≈১.৫ ওয়াট প্রতি পোর্ট) অপারেটিং ওভারহেডকে কমিয়ে দেয়।

4. ডিপ্লয়িং এবং স্কেলিং সুপারিশ (সাধারণ টপোলজি)

ধাপে ধাপে বাস্তবায়নের জন্য, আমরা নিম্নলিখিত পদ্ধতির সুপারিশ করিঃ

• ধাপ ১ ✓ পাইলট (৬৪ টি জিপিইউ নোড):2 পাতা সুইচ এবং 2 স্পিন সুইচ স্থাপন করুন।920-9B110-00FH-0D0 তথ্য পত্রপ্যারামিটার, লেটেন্সি, থ্রুপুট এবং SHARP অফলোড দক্ষতার উপর দৃষ্টি নিবদ্ধ করে।
• ধাপ ২ ∙ স্কেল আউট (১২৮ ∙ ২৫৬ নড):অতিরিক্ত সাবস্ক্রিপশন বজায় রাখার জন্য প্রতি র্যাকের জন্য ২ টিরও বেশি বৃদ্ধিতে পাতার সুইচ এবং স্পিন সুইচ যোগ করুনঃ1. 200 জি পোর্ট ঘনত্ব 32 ′′ 64 নোড (নোড আপলিংক গতির উপর নির্ভর করে) সমর্থন করার জন্য একটি একক পাতা সুইচকে অনুমতি দেয়।
• ধাপ ৩ ∙ মাল্টি-প্লেন (৫১২+ নোড):রুট-ভিত্তিক লোড ব্যালেন্সিং সহ একাধিক স্বতন্ত্র ফ্যাব্রিক (যেমন, 2 × বা 4 × প্লেন) বাস্তবায়ন করুন, ভার্চুয়াল লেন এবং পার্টিশন কীগুলির জন্য সুইচ এর সমর্থনটি ব্যবহার করে।

সাধারণ ক্যাবলিং OSFP-to-OSFP DACs ব্যবহার করে র্যাকের অভ্যন্তরীণ সংযোগের জন্য (≤3 মি) এবং OSFP-to-200G SR4 অপটিক্যাল মডিউলগুলি 100 মিটার পর্যন্ত স্পিন-লেফ দূরত্বের জন্য।920-9B110-00FH-0D0 InfiniBand সুইচ OPN সমাধানলজিস্টিককে সহজ করে তোলে ০ ওপিএন সমস্ত ইউনিটে ধারাবাহিক হার্ডওয়্যার এবং ফার্মওয়্যার সংশোধন নিশ্চিত করে, স্থাপনার ত্রুটি হ্রাস করে।

5অপারেশন, মনিটরিং, ফল্ট ডায়াগনসিস এবং অপ্টিমাইজেশন

উৎপাদন কম বিলম্ব বজায় রাখার জন্য কার্যকর অপারেশন অত্যন্ত গুরুত্বপূর্ণ।NVIDIA UFM (ইউনিফাইড ফ্যাব্রিক ম্যানেজার), যা বলেঃ

• রিয়েল-টাইম ড্যাশবোর্ড∙ প্রতি পোর্টে ব্যান্ডউইথ, ত্রুটি কাউন্টার এবং ঘনত্বের তাপ মানচিত্র।
• স্বয়ংক্রিয় পথ পুনরায় অপ্টিমাইজেশনযখন কোনও লিঙ্ক খারাপ হয় বা ব্যর্থ হয়, ইউএফএম অপারেটর হস্তক্ষেপ ছাড়াই রুটগুলি পুনরায় গণনা করে এবং অভিযোজিত রাউটিং টেবিলগুলি পুনরায় কনফিগার করে।
• ঐতিহাসিক টেলিমেট্রি👉 মরণোত্তর বিশ্লেষণ এবং সক্ষমতা পরিকল্পনা জন্য বিলম্ব এবং প্রবাহ তথ্য সংরক্ষণ।

ত্রুটি সমাধান এবং অপ্টিমাইজেশান ওয়ার্কফ্লো প্রস্তাবিতঃ

1. প্রতি পোর্টে প্যাউজ ফ্রেম এবং রিজার্ভ মনিটর✅ শূন্য বর্জন প্রত্যাশিত; যে কোনও বর্জন ভুল কনফিগারেশন বা ত্রুটিযুক্ত অপটিক্সের ইঙ্গিত দেয়। সমস্যাগুলি সক্রিয়ভাবে সনাক্ত করতে UFM সতর্কতা ব্যবহার করুন।
2. SHARPv2 অপারেশন যাচাই করুন✓ ইউএফএমের সমষ্টিগত পরিসংখ্যান যাচাই করুন যাতে নিশ্চিত করা যায় যে হ্রাস অপারেশনগুলি লোড হয়ে গেছে; যদি না হয় তবে ফার্মওয়্যার এবং অ্যাডাপ্টারের কনফিগারেশনগুলি যাচাই করুন।
3. অভিযোজিত রুটিং থ্রেশহোল্ডগুলি অপ্টিমাইজ করুন👉 কাজের চাপের ধরন অনুযায়ী লোড-সেন্সিং ইন্টারভালগুলি সামঞ্জস্য করুন।920-9B110-00FH-0D0ম্যানেজমেন্ট ইন্টারফেসের মাধ্যমে সূক্ষ্ম-সমন্বয় করতে পারে।
4. নিয়মিত ফার্মওয়্যার আপডেটকর্মক্ষমতা বৃদ্ধি এবং নিরাপত্তা প্যাচ সহ NVIDIA এর সহায়তা পোর্টালের মাধ্যমে উপলব্ধ।

সংস্থাগুলির জন্য যা920-9B110-00FH-0D0 দাম, অপারেশনাল সরলতা এবং কম ইঞ্জিনিয়ারিং ওভারহেড সরাসরি ইথারনেটের বিকল্পগুলির তুলনায় কম মোট মালিকানার খরচকে সরাসরি অবদান রাখে যা ক্রমাগত সুরক্ষা প্রয়োজন।

6. সংক্ষিপ্ত বিবরণ এবং মূল্য মূল্যায়ন

দ্যমেলানক্স (এনভিআইডিআইএ মেলানক্স) ৯২০-৯বি১১০-০০এফএইচ-০ডি০RDMA/HPC/AI ক্লাস্টার নেটওয়ার্কিংয়ের জন্য একটি প্রমাণিত, খরচ-কার্যকর ভিত্তি প্রদান করে। 200 গিগাবাইট/সেকেন্ডের HDR গতি, উন্নত নেটওয়ার্ক কম্পিউটিং এবং শক্তিশালী টেলিমেট্রিকে একত্রিত করে,এটি ঐতিহ্যগত পারফরম্যান্স বোতল ঘাঁটি দূর করে এবং সংগ্রাম ইথারনেট ফ্যাব্রিক থেকে একটি পরিষ্কার আপগ্রেড পথ প্রদান করেমূল মূল্য প্রস্তাবগুলির মধ্যে রয়েছেঃ

• পারফরম্যান্সঃSHARPv2 এর মাধ্যমে Sub-900 ns লেটেন্সি, শূন্য প্যাকেট ক্ষতি এবং 25% পর্যন্ত দ্রুত সমষ্টিগত অপারেশন।
• স্কেলযোগ্যতাঃসম্পূর্ণ বিসেকশন ব্যান্ডউইথ সহ 64 ′′ 512+ নোড ক্লাস্টার সমর্থন করে, উভয় ফ্যাট-ট্রি এবং ড্রাগনফ্লাই + টপোলজিতে অভিযোজিত।
• অপারেটিং দক্ষতাঃইউএফএম ইন্টিগ্রেশন এবং স্বয়ংক্রিয় ত্রুটি পুনরুদ্ধার ম্যানুয়াল হস্তক্ষেপ 80% এরও বেশি হ্রাস করে।
• খরচ-কার্যকারিতাঃপ্রতিযোগিতামূলক বন্দর মূল্য (920-9B110-00FH-0D0 দাম) এবং কম শক্তি খরচ একটি আকর্ষণীয় TCO প্রদান করে।

দ্য920-9B110-00FH-0D0 তথ্য পত্রএবং920-9B110-00FH-0D0 স্পেসিফিকেশন(এটি সম্পূর্ণ প্রযুক্তিগত বিবরণ প্রদান করে, এবং ইউনিটগুলি সহজেই পাওয়া যায় (বিক্রির জন্য 920-9B110-00FH-0D0এনভিআইডিআইএর গ্লোবাল চ্যানেল নেটওয়ার্কের মাধ্যমে) । বিদ্যমান এনভিআইডিআইএ অ্যাডাপ্টারের সাথে সুইচটির সামঞ্জস্যতা মেলানোক্স বাস্তুতন্ত্রের মধ্যে ইতিমধ্যে বিনিয়োগ করা সংস্থাগুলির জন্য একটি মসৃণ মাইগ্রেশন পথ নিশ্চিত করে।

সংক্ষেপে, এই প্রযুক্তিগত সমাধানটি920-9B110-00FH-0D0 InfiniBand সুইচ OPN সমাধানএটি একটি শক্তিশালী, অপারেশনাল দক্ষ ফ্যাব্রিক প্রদান করে যা সবচেয়ে চাহিদাপূর্ণ কম-ল্যাটেনসি ইন্টারকানেকশন প্রয়োজনীয়তা পূরণ করে ¢ পরবর্তী প্রজন্মের এআই এবং এইচপিসি কম্পিউটিংয়ের একটি ভিত্তি।