NVIDIA Mellanox MQM9790-NS2F প্রযুক্তিগত রেফারেন্স: RDMA/HPC/AI ক্লাস্টারের জন্য লো-ল্যাটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশন

এনভিডিয়া মেলানক্স এমকিউএম৯৭৯০-এনএস২এফ প্রযুক্তিগত রেফারেন্স: আরডিএমএ/এইচপিসি/এআই ক্লাস্টারের জন্য লো-ল্যাটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশন

১. প্রকল্পের পটভূমি ও প্রয়োজনীয়তা বিশ্লেষণ

আধুনিক এআই প্রশিক্ষণ এবং এইচপিসি সিমুলেশন ওয়ার্কলোডগুলি তীব্র, অল-টু-অল যোগাযোগ প্যাটার্ন দ্বারা চিহ্নিত করা হয় যা অন্তর্নিহিত নেটওয়ার্ক ফ্যাব্রিকের উপর চরম চাহিদা রাখে। জিপিইউ ক্লাস্টার ১,০০০ নোডের বেশি স্কেল করার সাথে সাথে, সফ্টওয়্যার-ভিত্তিক কনজেশন নিয়ন্ত্রণের উপর নির্ভর করে ইথারনেটের ঐতিহ্যবাহী পদ্ধতি অপর্যাপ্ত প্রমাণিত হয়। এই পরিবেশ থেকে উদ্ভূত মূল প্রয়োজনীয়তাগুলির মধ্যে রয়েছে:

• নির্ধারিত আল্ট্রা-লো ল্যাটেন্সি: এম্পিআই জব সমাপ্তির সময় কমাতে সাব-মাইক্রোসেকেন্ড পোর্ট-টু-পোর্ট ল্যাটেন্সি।
• লসলেস ফ্যাব্রিক: কনজেশনের অধীনে শূন্য প্যাকেট ড্রপ টিসিপি ইনকাস্ট এবং পারফরম্যান্স কলাপস প্রতিরোধ করার জন্য।
• ইন-নেটওয়ার্ক কম্পিউট অফলোড: কালেক্টিভ অপারেশনের জন্য হোস্ট সিপিইউ ওভারহেড হ্রাস (যেমন, অল-রিডিউস, ব্রডকাস্ট)।
• স্কেলেবল টপোলজি: হাজার হাজার এন্ডপয়েন্ট পর্যন্ত ফুল বাইসেকশন ব্যান্ডউইথের সাথে ফ্যাট-ট্রি এবং ড্রাগনফ্লাই+ টপোলজির জন্য সমর্থন।

২. সামগ্রিক নেটওয়ার্ক আর্কিটেকচার ডিজাইন

প্রস্তাবিত সমাধানটি একটি দুই-স্তরের লিফ-স্পাইন টপোলজি ব্যবহার করে, যা স্কেলেবিলিটি, ওভারসাবস্ক্রিপশন নিয়ন্ত্রণ এবং ক্যাবলিং সরলতার ভারসাম্য প্রদান করে। লিফ স্তরে, প্রতিটি কম্পিউট র‍্যাকে এক বা দুটি এমকিউএম৯৭৯০-এনএস২এফ ইনফিনিব্যান্ড সুইচ ইউনিট থাকে, যা জিপিইউ সার্ভারগুলিতে ৪০0Gb/s সংযোগের ৬৪ টি পোর্ট সরবরাহ করে। স্পাইন স্তরে, এমকিউএম৯৭৯০-এনএস২এফ সুইচগুলির একটি দ্বিতীয় স্তর সমস্ত লিফগুলিকে ইন্টারকানেক্ট করে, একটি নন-ব্লকিং ফ্যাব্রিক তৈরি করে।

২,০০০ জিপিইউ নোডের বেশি বড় আকারের স্থাপনার জন্য, একটি তিন-স্তরের ফোল্ডেড-ক্লোস আর্কিটেকচার গ্রহণ করা যেতে পারে, যেখানে এমকিউএম৯৭৯০-এনএস২এফ ৪০0Gb/s এনডিআর ৬৪-পোর্ট ওএসএফপি লিফ এবং স্পাইন উভয় হিসাবে কাজ করে সমস্ত স্তরে সামঞ্জস্যপূর্ণ কর্মক্ষমতা বজায় রাখার জন্য। এই নকশা নিশ্চিত করে যে কোনও সার্ভার অন্য কোনও সার্ভারের সাথে লাইন রেটে যোগাযোগ করতে পারে, সর্বোচ্চ তিনটি সুইচ হপ সহ।নিম্নলিখিত সারণীটি এমকিউএম৯৭৯০-এনএস২এফ-এর চারপাশে নির্মিত একটি ২-স্তরের লিফ-স্পাইন ফ্যাব্রিকের জন্য সাধারণ স্কেলিং প্যারামিটারগুলি সংক্ষিপ্ত করে:উপাদান

স্পেসিফিকেশনমানলিফ সুইচ

প্রতি র‍্যাকে এমকিউএম৯৭৯০-এনএস২এফ

হোস্ট সিপিইউ থেকে কালেক্টিভ কমিউনিকেশন অপারেশন অফলোড করে, বড় আকারের কাজে এম্পিআই অল-রিডিউস ল্যাটেন্সি ৪০% পর্যন্ত কমিয়ে দেয়।

অ্যাডাপ্টিভ রাউটিং এবং কনজেশন কন্ট্রোল:উন্নত টেলিমেট্রি:

• প্রতি-ফ্লো এবং প্রতি-পোর্ট কাউন্টার, বাফার অকুপেন্সি মনিটরিং সহ, ফ্যাব্রিক স্বাস্থ্যের গভীর দৃশ্যমানতা প্রদান করে।এমকিউএম৯৭৯০-এনএস২এফ ডেটাশিট
• অনুসারে, সুইচটি সাব-১০০এনএস কাট-থ্রু ল্যাটেন্সি সরবরাহ করে এবং ৫1.২ টিবি/এস পর্যন্ত অ্যাগ্রিগেট সুইচিং ক্ষমতা সমর্থন করে। এই স্পেসিফিকেশনগুলি এটিকে গ্রিনফিল্ড স্থাপনা এবং এইচডিআর (২০০Gb/s) পরিকাঠামো থেকে পর্যায়ক্রমে আপগ্রেড উভয়ের জন্য একটি আদর্শ পছন্দ করে তোলে।৪. স্থাপনা ও স্কেলেবিলিটি সুপারিশ
• যারা এমকিউএম৯৭৯০-এনএস২এফ ইনফিনিব্যান্ড সুইচ সমাধান গ্রহণ করার পরিকল্পনা করছেন তাদের জন্য, নিম্নলিখিত স্থাপনা নির্দেশিকাগুলি সুপারিশ করা হয়:ক্যাবলিং কৌশল:
• ইন্ট্রা-র‍্যাক সংযোগের জন্য (৩ মিটার পর্যন্ত) ওএসএফপি-টু-ওএসএফপি ডাইরেক্ট-অ্যাটাচ কপার (ডিএসি) কেবল এবং ইন্টার-র‍্যাক এবং স্পাইন-লিফ লিঙ্কগুলির জন্য (১০০ মিটার পর্যন্ত) অ্যাক্টিভ অপটিক্যাল কেবল (এওসি) বা অপটিক্যাল ট্রান্সসিভার ব্যবহার করুন।রিডান্ডেন্সি:

ডুয়াল পাওয়ার সাপ্লাই এবং হট-সোয়াপযোগ্য ফ্যান মডিউল স্থাপন করুন। ফল্ট টলারেন্সের জন্য প্রতিটি পাওয়ার সাপ্লাইকে পৃথক পিডিইউ-এর সাথে সংযুক্ত করুন। বৈশিষ্ট্য অমিল এড়াতে সমস্ত সুইচ একই এনভিডিয়া ফার্মওয়্যার সংস্করণ চালাচ্ছে তা নিশ্চিত করুন। রোলিং আপডেটের জন্য ইউএফএম-এর স্বয়ংক্রিয় ফার্মওয়্যার আপগ্রেড বৈশিষ্ট্য ব্যবহার করুন।

স্কেলেবিলিটি:

৪,০০০ নোডের বেশি ক্লাস্টারের জন্য, তিন-স্তরের ফোল্ডেড-ক্লোস টপোলজি বা অ্যাডাপ্টিভ রাউটিং সক্ষম সহ ড্রাগনফ্লাই+ বিবেচনা করুন। এমকিউএম৯৭৯০-এনএস২এফ সামঞ্জস্যপূর্ণ ইকোসিস্টেম এই টপোলজিগুলিকে সমর্থন করার জন্য বিভিন্ন ধরণের অপটিক্স এবং কেবল অন্তর্ভুক্ত করে।৫. অপারেশন, মনিটরিং ও ট্রাবলশুটিং

• একটি এনডিআর ফ্যাব্রিকের কার্যকর ব্যবস্থাপনা একটি ব্যাপক পর্যবেক্ষণ এবং সমস্যা সমাধানের কাঠামোর প্রয়োজন। এনভিডিয়া-র ইউনিফাইড ফ্যাব্রিক ম্যানেজার (ইউএফএম) সম্পূর্ণ এনভিডিয়া মেলানক্স এমকিউএম৯৭৯০-এনএস২এফ-ভিত্তিক ফ্যাব্রিকের জন্য একটি একক গ্লাস প্যান সরবরাহ করে, যা সরবরাহ করে:টপোলজি ভিজ্যুয়ালাইজেশন:
• সমস্ত সুইচ, লিঙ্ক এবং এন্ডপয়েন্টগুলির স্বয়ংক্রিয় আবিষ্কার এবং গ্রাফিকাল উপস্থাপনা।পারফরম্যান্স ড্যাশবোর্ড:
• পোর্ট ব্যবহার, ত্রুটির হার এবং কনজেশন সূচকগুলির রিয়েল-টাইম ভিউ।প্রোঅ্যাক্টিভ অ্যালার্টিং:
• লিঙ্ক অবক্ষয়, তাপমাত্রার অস্বাভাবিকতা এবং পাওয়ার সাপ্লাই ব্যর্থতার জন্য থ্রেশহোল্ড-ভিত্তিক অ্যালার্ম।ফল্ট আইসোলেশন: ত্রুটিপূর্ণ কেবল, ট্রান্সসিভার বা সুইচ পোর্টগুলি সনাক্ত করে সমস্যা সমাধানের নির্দেশিত ওয়ার্কফ্লো।উন্নত সমস্যা সমাধানের জন্য, এমকিউএম৯৭৯০-এনএস২এফ স্পেসিফিকেশনগুলিতে বিস্তারিত বাফার মনিটরিং এবং ফ্লো-লেভেল পরিসংখ্যান অন্তর্ভুক্ত রয়েছে যা কাস্টম মনিটরিং স্ট্যাকগুলির সাথে একীকরণের জন্য রেস্ট এপিআই-এর মাধ্যমে রপ্তানি করা যেতে পারে। নেটওয়ার্ক ইঞ্জিনিয়ারদের অবশ্যই লিঙ্কের অখণ্ডতা যাচাই করার জন্য লুপব্যাক পরীক্ষা এবং বিইআর (বিট এরর রেট) বিশ্লেষণের মতো সুইচের অন্তর্নির্মিত ডায়াগনস্টিক সরঞ্জামগুলি ব্যবহার করতে হবে প্রোডাকশন ওয়ার্কলোড স্থাপন করার আগে।

প্রাথমিক স্থাপনার সময় সম্মুখীন হওয়া সাধারণ সমস্যাগুলির মধ্যে রয়েছে অসম লিঙ্ক গতি বা অমিল কেবল প্রকারের কারণে সাবঅপ্টিমাল রাউটিং। অ্যাডাপ্টিভ রাউটিং সক্ষম করা এবং সমস্ত লিঙ্ক ৪০0Gb/s (এফইসি সক্ষম সহ) এ চলছে তা যাচাই করা কর্মক্ষমতা অস্বাভাবিকতার বেশিরভাগ সমাধান করে। এমকিউএম৯৭৯০-এনএস২এফ ইনফিনিব্যান্ড সুইচ সমাধান সাবনেট ম্যানেজার রিডান্ডেন্সির জন্য সমর্থনও অন্তর্ভুক্ত করে, যা নিশ্চিত করে যে ম্যানেজমেন্ট নোড ব্যর্থতার ক্ষেত্রে ম্যানুয়াল হস্তক্ষেপ ছাড়াই ফ্যাব্রিক পুনর্গঠন ঘটতে পারে।৬. সারসংক্ষেপ ও মূল্য মূল্যায়নএমকিউএম৯৭৯০-এনএস২এফ উচ্চ-পারফরম্যান্স নেটওয়ার্কিংয়ে একটি উল্লেখযোগ্য অগ্রগতি উপস্থাপন করে, একটি একক, পরিচালনাযোগ্য ১ইউ প্ল্যাটফর্মে ৪০0Gb/s এনডিআর ব্যান্ডউইথ, ৬৪-পোর্ট ঘনত্ব এবং ইন-নেটওয়ার্ক কম্পিউট অ্যাক্সিলারেশন সরবরাহ করে। এআই এবং এইচপিসি ক্লাস্টার ডিজাইনকারী স্থপতি এবং ইঞ্জিনিয়ারদের জন্য, এই সুইচটি এক্সাস্কেল কর্মক্ষমতার একটি প্রমাণিত পথ সরবরাহ করে, যা সক্ষম করে:

৩০% পর্যন্ত হ্রাস

এসএইচএআরপিভি৩ অফলোডিংয়ের মাধ্যমে বড় আকারের প্রশিক্ষণ ওয়ার্কলোডগুলির জন্য কাজের সমাপ্তির সময়। উচ্চতর রেডিক্স এবং হ্রাসকৃত সুইচ-স্তর গণনার দ্বারা চালিত বিকল্প সমাধানগুলির তুলনায়।

• সরলীকৃত অপারেশন ইউএফএম ইন্টিগ্রেশন এবং প্রোঅ্যাক্টিভ ফল্ট ম্যানেজমেন্টের জন্য ব্যাপক টেলিমেট্রির মাধ্যমে।
• ভবিষ্যৎ-প্রমাণ স্কেলেবিলিটি পরবর্তী প্রজন্মের জিপিইউ এবং অ্যাক্সিলারেটর ইন্টারকানেক্ট সমর্থন করার জন্য।
• যারা এনভিডিয়া-র পার্টনার নেটওয়ার্কের মাধ্যমে এমকিউএম৯৭৯০-এনএস২এফ বিক্রয়ের জন্য মূল্যায়ন করছেন তাদের জন্য, আমরা বিস্তারিত এমকিউএম৯৭৯০-এনএস২এফ ডেটাশিট পর্যালোচনা করার এবং আপনার নির্দিষ্ট ওয়ার্কলোড এবং স্কেল প্রয়োজনীয়তা অনুসারে স্থাপনা তৈরি করার জন্য একজন প্রত্যয়িত সমাধান স্থপতির সাথে জড়িত হওয়ার সুপারিশ করি। এনভিডিয়া মেলানক্স এমকিউএম৯৭৯০-এনএস২এফ আগামী দশকের বৈজ্ঞানিক আবিষ্কার এবং এআই উদ্ভাবনের জন্য উচ্চ-পারফরম্যান্স ইন্টারকানেক্ট ব্যাকবোন হিসাবে কাজ করার জন্য প্রস্তুত।