NVIDIA Mellanox 920-9B210-00FN-0D0 প্রযুক্তিগত রেফারেন্স: 400Gb/s NDR লো-ল্যাটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশন

NVIDIA Mellanox 920-9B210-00FN-0D0 প্রযুক্তিগত রেফারেন্সঃ 400Gb/s NDR RDMA/HPC/AI ক্লাস্টারগুলির জন্য নিম্ন-ল্যাটেনসি ইন্টারকানেক্ট অপ্টিমাইজেশন

1. প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

যেহেতু এআই প্রশিক্ষণ ক্লাস্টারগুলি 4,000 জিপিইউয়ের বাইরে স্কেল করে এবং এইচপিসি সিমুলেশনগুলি এক্সাসকেল পারফরম্যান্সের দিকে এগিয়ে যায়, নেটওয়ার্ক ফ্যাব্রিকগুলি ব্যান্ডউইথ, লেটেন্সি এবং নির্ধারকতার জন্য অভূতপূর্ব চাহিদার মুখোমুখি হয়।২০০ গিগাবাইট/সেকেন্ডের এইচডিআর থেকে ৪০০ গিগাবাইট/সেকেন্ডের এনডিআর-এ স্থানান্তর এখন আর ট্রিলিয়ন-প্যারামিটার মডেল বা কিলোমিটার-স্কেল আবহাওয়া সিমুলেশনকে লক্ষ্য করে প্রতিষ্ঠানের জন্য ঐচ্ছিক নয়। এটি একটি কৌশলগত আবশ্যকতা।প্রধান গবেষণা এবং উদ্যোগের প্রয়োগে চিহ্নিত মূল প্রয়োজনীয়তাগুলির মধ্যে রয়েছেঃ

• অতি-নিম্ন নির্ধারক লেটেন্সিঃএমপিআই এবং সব-সব যোগাযোগের ওভারহেড কমাতে পোর্ট-টু-পোর্ট বিলম্বের সময় 100 এনএস এর নিচে।
• ক্ষয়ক্ষতিহীন ফ্যাব্রিক:হাজার হাজার এন্ডপয়েন্ট জুড়ে জিরো প্যাকেটের জমে যাওয়া, RDMA পারফরম্যান্সকে পূর্বাভাসযোগ্য করে তোলে।
• নেটওয়ার্কের অভ্যন্তরীণ কম্পিউটারের লোডঃজিপিইউ ব্যবহারকে সর্বাধিক করার জন্য নেটওয়ার্ক ফ্যাব্রিকের কাছে সমষ্টিগত ক্রিয়াকলাপগুলি (সমস্ত-হ্রাস, সমস্ত-সমস্ত, সম্প্রচার) অফলোড করা।
• হাই-রেডিক্স স্কেলাবিলিটিঃবড় আকারের ফ্যাট-ট্রি এবং ড্রাগনফ্লাই + টোপোলজিগুলির জন্য সমর্থন, যার পূর্ণ বিভাজন ব্যান্ডউইথ 8,000+ নোড পর্যন্ত।
• বিনিয়োগ সুরক্ষাঃধাপে ধাপে আপগ্রেড করার জন্য বিদ্যমান এইচডিআর তারের, অপটিক্স এবং পরিচালনা সরঞ্জামগুলির সাথে নির্বিঘ্নে সামঞ্জস্য।

এই চাহিদা পূরণ করতে, এই সমাধানটিএনভিআইডিআইএ মেলানোক্স ৯২০-৯বি২১০-০০এফএন-০ডি০মূল বিল্ডিং ব্লক হিসেবে ৪০০ গিগাবাইট/সেকেন্ড এনডিআর ইনফিনিব্যান্ড সুইচ যা এক্সাসকেল-ক্লাসের স্থাপনার জন্য প্রয়োজনীয় ঘনত্ব, কর্মক্ষমতা এবং বুদ্ধি সরবরাহ করে।

2. নেটওয়ার্ক আর্কিটেকচার ডিজাইন

প্রস্তাবিত সমাধানটি একটি দ্বি-স্তরীয় পাতার মেরুদণ্ডের টপোলজি ব্যবহার করে, যা একটি স্কেলযোগ্য, অ-ব্লকিং ফ্যাব্রিক সরবরাহ করে যা নির্ধারণমূলক বিলম্ব এবং সরলীকৃত তারের সাথে।প্রতিটি কম্পিউটার র্যাক এক বা দুই দিয়ে সজ্জিত করা হয়920-9B210-00FN-0D0 ইনফিনিব্যান্ড সুইচ OPNইউনিট, OSFP-to-OSFP সরাসরি সংযুক্ত তামা (DAC) বা সক্রিয় অপটিক্যাল তারের (AOC) মাধ্যমে GPU সার্ভারের সাথে 400Gb / s NDR সংযোগের 64 পোর্ট সরবরাহ করে।920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRসুইচগুলি সমস্ত পাতার সুইচকে আন্তঃসংযুক্ত করে, একটি পূর্ণ-বিসেকশন ব্যান্ডউইথ ফ্যাট-ট্রি ফ্যাব্রিক তৈরি করে।

৫০০০ নডের বেশি ক্লাস্টারের জন্য, তিন স্তরের ফোল্ডেড-ক্লোজ আর্কিটেকচার বাস্তবায়ন করা যেতে পারে,৯২০-৯বি২১০-০০এফএন-০ডি০-এর সাথে সব স্তরে ধারাবাহিক পারফরম্যান্স বজায় রাখার জন্য পাতা এবং মেরুদণ্ড উভয়ই কাজ করেএই সুইচটি একক সাবনেট ম্যানেজারের অধীনে একক ফ্যাব্রিকের মধ্যে ৬৪ টি পর্যন্ত সুইচকে সমর্থন করে, যা বড় আকারের টপোলজিগুলির একীভূত নিয়ন্ত্রণকে সক্ষম করে।

নিম্নলিখিত টেবিলটি 920-9B210-00FN-0D0 এর চারপাশে নির্মিত একটি 2-স্তরের এনডিআর ফ্যাব্রিকের জন্য মূল স্কেলিং পরামিতিগুলি সংক্ষিপ্ত করেঃ

3. এনভিআইডিআইএ মেলানোক্স 920-9B210-00FN-0D0 এর ভূমিকা ও মূল বৈশিষ্ট্য

এই স্থাপত্যের মধ্যে,এনভিআইডিআইএ মেলানোক্স ৯২০-৯বি২১০-০০এফএন-০ডি০এটি একটি মৌলিক সুইচিং উপাদান হিসেবে কাজ করে, বিভিন্ন গুরুত্বপূর্ণ ক্ষমতা প্রদান করে যা সরাসরি বিভাগ ১-এ উল্লিখিত প্রয়োজনীয়তা পূরণ করেঃ

• ৬৪টি পোর্ট ৪০০ গিগাবাইট/সেকেন্ড এনডিআরঃপ্রতিটি ওএসএফপি পোর্ট নির্ভরযোগ্য এক্সটেন্ডেড-রিচ সংযোগের জন্য ফরওয়ার্ড ত্রুটি সংশোধন (এফইসি) সহ দ্বিপাক্ষিক 400 গিগাবাইট / সেকেন্ডকে সমর্থন করে।২ টিবি/সেকেন্ড এমনকি সর্বাধিক যোগাযোগ-সমৃদ্ধ ওয়ার্কলোডগুলির জন্যও প্রচুর পরিমাণে হেডরুম সরবরাহ করে.
• অতি-নিম্ন কাট-থ্রু লেটেন্সিঃপোর্ট-টু-পোর্ট লেটেন্সি 100ns এর নিচে, যেমনটি ডকুমেন্ট করা হয়েছে920-9B210-00FN-0D0 তথ্য পত্র, এমপিআই এবং আরডিএমএ অপারেশনের জন্য ন্যূনতম ওভারহেড নিশ্চিত করে।
• ইন্টিগ্রেটেড SHARPv3 (স্কেলেবল হেরার্কিকেল এগ্রিগেশন অ্যান্ড রিডাকশন প্রোটোকল):হোস্ট সিপিইউ থেকে সমষ্টিগত ক্রিয়াকলাপগুলিকে অফলোড করে, বৃহত্তর স্কেল কাজের ক্ষেত্রে 40% পর্যন্ত এবং 35% পর্যন্ত সমস্ত-থেকে-সব লেটেন্সি হ্রাস করে।
• অভিযোজিত রুটিং এবং ঘনত্ব নিয়ন্ত্রণঃহটস্পট এড়ানোর জন্য গতিশীলভাবে ট্রাফিক পুনঃনির্দেশ করে, বিরোধী ট্রাফিক প্যাটার্নের অধীনে পূর্বাভাসযোগ্য কর্মক্ষমতা নিশ্চিত করে।উন্নত টেলিমেট্রি সক্রিয় ব্যবস্থাপনার জন্য প্রতি প্রবাহ এবং প্রতি বন্দর দৃশ্যমানতা প্রদান করে.
• ব্যাপক পরিচালনাযোগ্যতাঃএনভিআইডিআইএর ইউনিফাইড ফ্যাব্রিক ম্যানেজার (ইউএফএম) এর সাথে সম্পূর্ণ সংহতকরণ শূন্য-স্পর্শ সরবরাহ, স্বাস্থ্য পর্যবেক্ষণ এবং স্বয়ংক্রিয় ব্যর্থতার জন্য।

দ্য920-9B210-00FN-0D0 স্পেসিফিকেশনএছাড়াও দ্বৈত-রেডন্ড্যান্ট পাওয়ার সাপ্লাইগুলি, হট-স্টাপেবল ফ্যান মডিউলগুলি এবং রিডন্ড্যান্ট সাবনেট ম্যানেজার কনফিগারেশনগুলির জন্য সমর্থনকে তুলে ধরে, মিশন-ক্রিটিকাল ওয়ার্কলোডগুলির জন্য 99.999% উপলভ্যতা নিশ্চিত করে।

4. স্থাপনার এবং স্কেলাবিলিটির সুপারিশ

যেসব প্রতিষ্ঠান এই পদ্ধতি গ্রহণ করতে চায়920-9B210-00FN-0D0 InfiniBand সুইচ OPN সমাধান, নিম্নলিখিত মোতায়েন নির্দেশিকা সুপারিশ করা হয়ঃ

• ক্যাবলিং কৌশলঃOSFP-to-OSFP DAC ক্যাবলগুলি ইনট্রা-র্যাক সংযোগের জন্য (৩ মিটার পর্যন্ত) এবং AOC বা অপটিক্যাল ট্রান্সিভারগুলি ইন্টার-র্যাক এবং স্পাইন-লেফ লিঙ্কগুলির জন্য (১০০ মিটার পর্যন্ত) ব্যবহার করুন।920-9B210-00FN-0D0 সামঞ্জস্যপূর্ণসিগন্যাল অখণ্ডতা সমস্যা এড়াতে এনভিআইডিআইএ সামঞ্জস্যের ম্যাট্রিক্স অনুযায়ী।
• অপ্রয়োজনীয়তা:পৃথক পিডিইউতে সংযুক্ত দ্বৈত পাওয়ার সরবরাহ স্থাপন করুন। ব্যর্থতার একক পয়েন্টগুলি নির্মূল করতে প্রতি পাতায় কমপক্ষে দুটি স্পিন সুইচ ব্যবহার করুন। মিশন-সমালোচনামূলক কাজের বোঝার জন্য,মেরুদণ্ড স্তরে N+1 রিডানান্সি বিবেচনা করুন.
• ফার্মওয়্যার ব্যবস্থাপনাঃসমস্ত সুইচ একই এনভিআইডিআইএ ফার্মওয়্যার সংস্করণ চালানো নিশ্চিত করুন। ডাউনটাইম ছাড়াই রোলিং আপডেটের জন্য ইউএফএম এর স্বয়ংক্রিয় ফার্মওয়্যার আপগ্রেড বৈশিষ্ট্যটি ব্যবহার করুন।স্থাপন করার আগে হোস্ট অ্যাডাপ্টার এবং তারের সাথে ফার্মওয়্যার সামঞ্জস্যতা যাচাই করুন.
• স্কেলযোগ্যতার পথঃ4,096 নোডের বাইরে ক্লাস্টারগুলির জন্য, একটি তিন স্তরের ভাঁজ-বন্ধ টপোলজিতে রূপান্তর বা অভিযোজিত রাউটিং সহ লিভারেজ ড্রাগনফ্লাই +। 920-9B210-00FN-0D0 একক ফ্যাব্রিকের মধ্যে 64 টি সুইচ পর্যন্ত সমর্থন করে,একাধিক ফ্যাব্রিকের সাথে বৃহত্তর মোতায়েনের জন্য গেটওয়ের মাধ্যমে আন্তঃসংযুক্ত.
• পারফরম্যান্স ভ্যালিডেশনঃউত্পাদন প্রবর্তনের আগে, ফ্যাব্রিক পারফরম্যান্সের বৈধতা যাচাই করার জন্য ওপেনফ্যাব্রিক্স এন্টারপ্রাইজ ডিস্ট্রিবিউশন (ওএফইডি) পারফরম্যান্স বেঞ্চমার্কের মতো সরঞ্জামগুলি ব্যবহার করে ব্যাপক স্ট্রেস পরীক্ষা চালান920-9B210-00FN-0D0 তথ্য পত্রস্পেসিফিকেশন।

মোট মালিকানার খরচ গণনা করার সময়, কম র্যাডিক্স বিকল্পগুলির তুলনায় সুইচ স্তর এবং সরলীকৃত ক্যাবলিংয়ের কম সংখ্যক ফ্যাক্টর।920-9B210-00FN-0D0 দামএইচডিআর সুইচগুলির তুলনায় এইচডিআর সুইচগুলির প্রতি ইউনিট উচ্চতর, প্রতি পোর্টের খরচ এবং প্রতি জিপিইউ নেটওয়ার্কিং খরচ বড় আকারের স্থাপনার ক্ষেত্রে উল্লেখযোগ্যভাবে কম, এটি এক্সাসকেল প্রকল্পগুলির জন্য একটি খরচ কার্যকর পছন্দ করে।

5অপারেশন, মনিটরিং ও সমস্যা সমাধান

এনডিআর ফ্যাব্রিকের কার্যকর পরিচালনার জন্য একটি বিস্তৃত পর্যবেক্ষণ এবং ত্রুটি সমাধানের কাঠামোর প্রয়োজন। এনভিআইডিআইএর ইউএফএম পুরো গ্লাসের জন্য একটি একক প্যানেল সরবরাহ করেএনভিআইডিআইএ মেলানোক্স ৯২০-৯বি২১০-০০এফএন-০ডি০-উপকরণ ভিত্তিক কাপড়, যাঃ

• টপোলজি ভিজ্যুয়ালাইজেশনঃরিয়েল টাইম স্ট্যাটাস আপডেটের সাথে সমস্ত সুইচ, লিঙ্ক এবং এন্ডপয়েন্টগুলির স্বয়ংক্রিয় আবিষ্কার এবং গ্রাফিকাল উপস্থাপনা।
• পারফরম্যান্স ড্যাশবোর্ডঃবন্দর ব্যবহার, ত্রুটির হার, ঘনত্বের সূচক এবং পুরো ফ্যাব্রিক জুড়ে বাফার দখলের রিয়েল-টাইম ভিউ।
• সক্রিয় সতর্কতাঃলিংক অবনতি, তাপমাত্রা অস্বাভাবিকতা, পাওয়ার সাপ্লাই ব্যর্থতা, এবং তারের পরিধানের জন্য থ্রেশহোল্ড ভিত্তিক এলার্ম।
• ত্রুটি বিচ্ছিন্নতাঃনির্দেশিত সমস্যা সমাধান কর্মপ্রবাহ যা ত্রুটিযুক্ত তারগুলি, ট্রান্সসিভারগুলি বা সুইচ পোর্টগুলি সনাক্ত করে, সমাধানের জন্য গড় সময় (এমটিটিআর) হ্রাস করে।
• ঐতিহাসিক বিশ্লেষণঃঐতিহাসিক পারফরম্যান্স ডেটা ভিত্তিক প্রবণতা বিশ্লেষণ এবং সক্ষমতা পরিকল্পনা, যা সক্রিয় স্কেলিং সিদ্ধান্তকে সক্ষম করে।

উন্নত সমস্যা সমাধানের জন্য, লুপব্যাক পরীক্ষা, বিইআর (বিট ত্রুটি হার) বিশ্লেষণ এবং অপটিক্যাল মডিউল ডায়াগনস্টিক মনিটরিং (ডিওএম) সহ সুইচটির অন্তর্নির্মিত ডায়াগনস্টিক সরঞ্জামগুলি ব্যবহার করুন।প্রারম্ভিক এনডিআর স্থাপনার ক্ষেত্রে দেখা যায় এমন সাধারণ সমস্যাগুলির মধ্যে রয়েছে অসম সংযোগের গতির কারণে অনুপম রাউটিং, অসঙ্গতিযুক্ত ক্যাবল প্রকার, বা ফার্মওয়্যার অসঙ্গতি। অভিযোজিত রাউটিং সক্ষম করে, FEC সক্ষম করে সমস্ত লিঙ্ক 400Gb / s এ কাজ করছে কিনা তা যাচাই করে,এবং সব সুইচ জুড়ে সামঞ্জস্যপূর্ণ ফার্মওয়্যার নিশ্চিত অধিকাংশ কর্মক্ষমতা অস্বাভাবিকতা সমাধান.

নেটওয়ার্ক ইঞ্জিনিয়ারদেরও একটি বেসলাইন স্থাপন করা উচিত920-9B210-00FN-0D0 স্পেসিফিকেশনঅনুমোদনের পর্যায়ে, প্রত্যাশিত বিলম্ব, থ্রুপুট এবং ত্রুটির হার সহ। এই বেসলাইন থেকে বিচ্যুতি সম্ভাব্য সমস্যাগুলির প্রাথমিক সূচক হিসাবে ব্যবহার করা যেতে পারে।920-9B210-00FN-0D0 ইনফিনিব্যান্ড সুইচ OPNএছাড়াও syslog এবং SNMP এর মাধ্যমে বিস্তৃত ইভেন্ট লগিং সমর্থন করে, বিদ্যমান ডেটা সেন্টার মনিটরিং স্ট্যাকগুলির সাথে সংহতকরণ সক্ষম করে।

6. সংক্ষিপ্ত বিবরণ এবং মূল্য মূল্যায়ন

দ্য920-9B210-00FN-0D0এনডিআর ভিত্তিক এইচপিসি এবং এআই ক্লাস্টার তৈরি বা সম্প্রসারণকারী সংস্থাগুলির জন্য একটি আকর্ষণীয় মূল্য প্রস্তাব সরবরাহ করে। এটি 400Gb / s এনডিআর এর 64 টি পোর্ট সরবরাহ করে, 100ns এর নিচে লেটেন্সি, SHARPv3 অফলোড,এন্টারপ্রাইজ-গ্রেড পরিচালনাযোগ্যতা, এবং একটি কম্প্যাক্ট 1U প্ল্যাটফর্মে বিদ্যমান HDR ইকোসিস্টেমের সাথে সম্পূর্ণ সামঞ্জস্য। মূল মূল্য পয়েন্টগুলির মধ্যে রয়েছেঃ

• পারফরম্যান্সঃSHARPv3 অফলোডিং এবং এনডিআর ব্যান্ডউইথের মাধ্যমে সমস্ত-সব যোগাযোগের বিলম্বের 75% পর্যন্ত হ্রাস এবং সমস্ত-হ্রাস বিলম্বের 40% পর্যন্ত হ্রাস।
• খরচ দক্ষতাঃবড় আকারের স্থাপনার ক্ষেত্রে এইচডিআর বিকল্পগুলির তুলনায় জিপিইউ প্রতি কম নেটওয়ার্কিং ব্যয়, উচ্চতর র্যাডিক্স এবং কম সুইচ-লেয়ার গণনা দ্বারা চালিত।
• অপারেশন সহজতাঃইউনিফাইড ম্যানেজমেন্ট, অটোমেটেড প্রভিজনিং, প্রোঅ্যাক্টিভ মনিটরিং এবং দ্রুত ত্রুটি সমাধানের জন্য ইউএফএমের সাথে গভীর সংহতকরণ।
• বিনিয়োগ সুরক্ষাঃবিদ্যমান এইচডিআর ক্যাবল, অপটিক্স এবং সফটওয়্যার স্ট্যাকগুলির সাথে সম্পূর্ণ সামঞ্জস্যপূর্ণতা, উত্পাদন কাজের বোঝা ব্যাহত না করে ধাপে ধাপে আপগ্রেডগুলি সক্ষম করে।
• ভবিষ্যতের প্রমাণিত স্কেলযোগ্যতাঃতিন স্তরের ভাঁজ-ক্লোজ এবং ড্রাগনফ্লাই + টপোলজিগুলির জন্য সমর্থন, কম্পিউটারের চাহিদা বাড়ার সাথে সাথে ফ্যাব্রিকটি 8,000+ নোডে স্কেল করতে পারে তা নিশ্চিত করে।

সংস্থাগুলির জন্য যাবিক্রির জন্য 920-9B210-00FN-0D0NVIDIA এর চ্যানেল অংশীদারদের মাধ্যমে, আমরা বিস্তারিত পর্যালোচনা সুপারিশ920-9B210-00FN-0D0 তথ্য পত্রএবং আপনার নির্দিষ্ট কাজের চাপ এবং স্কেল প্রয়োজনীয়তার জন্য নকশাটি বৈধ করার জন্য একটি সার্টিফাইড সমাধান স্থপতির সাথে জড়িত।এনভিআইডিআইএ মেলানোক্স ৯২০-৯বি২১০-০০এফএন-০ডি০এইচপিসি এবং এআই উদ্ভাবনের পরবর্তী প্রজন্মের জন্য একটি উচ্চ-পারফরম্যান্স, স্কেলযোগ্য ইন্টারকানেকশন ভিত্তি সরবরাহ করে।