NVIDIA Mellanox 920-9B210-00FN-0D0 প্রযুক্তিগত রেফারেন্স: 400Gb/s NDR লো-ল্যাটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশন

এনভিডিয়া মেলানক্স ৯২০-৯বি২১০-০০এফএন-০ডি০ প্রযুক্তিগত রেফারেন্স: আরডিএমএ/এইচপিসি/এআই ক্লাস্টারের জন্য ৪০জিবি/সেকেন্ড এনডিআর লো-ল্যাটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশন

১. প্রকল্পের পটভূমি ও প্রয়োজনীয়তা বিশ্লেষণ

এআই প্রশিক্ষণ ক্লাস্টারগুলি হাজার হাজার থেকে লক্ষ লক্ষ জিপিইউ পর্যন্ত স্কেল করার সাথে সাথে, এবং এইচপিসি সিমুলেশনগুলি এক্সাস্কেল পারফরম্যান্সের কাছাকাছি পৌঁছানোর সাথে সাথে, নেটওয়ার্ক ইন্টারকানেক্টগুলি ব্যান্ডউইথ, ল্যাটেন্সি এবং ডিটারমিনিজমের জন্য অভূতপূর্ব চাহিদার সম্মুখীন হচ্ছে। ২০০জিবি/সেকেন্ড এইচডিআর থেকে ৪০০জিবি/সেকেন্ড এনডিআর-এ রূপান্তর আর ঐচ্ছিক নয়—এটি ট্রিলিয়ন-প্যারামিটার মডেল এবং এক্সট্রিম-স্কেল প্যারালাল কম্পিউটিং স্থাপনকারী সংস্থাগুলির জন্য একটি কৌশলগত প্রয়োজনীয়তা। একাধিক নেতৃস্থানীয় স্থাপনার পরিবেশে, মূল প্রয়োজনীয়তাগুলি সংক্ষিপ্ত করা যেতে পারে:

• ডিটারমিনিস্টিক আল্ট্রা-লো ল্যাটেন্সি: এম্পিআই এবং অল-টু-অল কালেক্টিভ কমিউনিকেশনকে প্রশিক্ষণ কনভারজেন্সের উপর কমিউনিকেশন ওভারহেড প্রভাব কমাতে সাব-১০০এনএস পোর্ট-টু-পোর্ট ল্যাটেন্সি বজায় রাখতে হবে।
• লসলেস ফ্যাব্রিক অ্যাট স্কেল: হাজার হাজার এন্ডপয়েন্টের জুড়ে শূন্য প্যাকেট ড্রপ, কনজেশনের অধীনে আরডিএমএ পারফরম্যান্সের অবনতি না হওয়া নিশ্চিত করে।
• ইন-নেটওয়ার্ক কম্পিউট অফলোড: হোস্ট সিপিইউ/জিপিইউ রিসোর্স মুক্ত করার জন্য সুইচ ফ্যাব্রিকের কালেক্টিভ অপারেশন (অল-রিডিউস, অল-টু-অল, ব্রডকাস্ট) অফলোড করা।
• হাই-রেডিক্স স্কেলেবিলিটি: ৮,০০০+ নোডের উপর পূর্ণ বাইসেকশন ব্যান্ডউইথ সহ ফ্যাট-ট্রি এবং ড্রাগনফ্লাই+ টপোলজির জন্য সমর্থন।
• বিনিয়োগ সুরক্ষা: পর্যায়ক্রমিক আপগ্রেডের জন্য বিদ্যমান এইচডিআর কেবল, অপটিক্স এবং ম্যানেজমেন্ট টুলের সাথে নির্বিঘ্ন সামঞ্জস্য।

এই প্রয়োজনীয়তাগুলি পূরণ করার জন্য, এই সমাধানটি কোর বিল্ডিং ব্লক হিসাবে এনভিডিয়া মেলানক্স ৯২০-৯বি২১০-০০এফএন-০ডি০ গ্রহণ করে—একটি ৪০০জিবি/সেকেন্ড এনডিআর ইনফিনিব্যান্ড সুইচ যা এক্সাস্কেল-ক্লাস স্থাপনার জন্য বিশেষভাবে তৈরি করা হয়েছে।

২. সামগ্রিক নেটওয়ার্ক আর্কিটেকচার ডিজাইন

প্রস্তাবিত সমাধানটি একটি দুই-স্তরীয় লিফ-স্পাইন টপোলজি ব্যবহার করে, যা একটি স্কেলযোগ্য, নন-ব্লকিং ফ্যাব্রিক সরবরাহ করে যা ডিটারমিনিস্টিক ল্যাটেন্সি এবং সরলীকৃত ক্যাবলিং সহ। লিফ স্তরে, প্রতিটি কম্পিউট র‍্যাক এক বা দুটি ৯২০-৯বি২১০-০০এফএন-০ডি০ ইনফিনিব্যান্ড সুইচ ওপিএন ইউনিট দিয়ে সজ্জিত থাকে, যা ওএসএফপি ডাইরেক্ট-অ্যাটাচ কপার (ডিএসি) বা অ্যাক্টিভ অপটিক্যাল কেবল (এওসি) এর মাধ্যমে জিপিইউ সার্ভারগুলিতে ৪০০জিবি/সেকেন্ড এনডিআর কানেক্টিভিটির ৬৪টি পোর্ট সরবরাহ করে। স্পাইন স্তরে, ৯২০-৯বি২১০-০০এফএন-০ডি০ এমকিউএম৯৭৯০-এনএস২এফ ৪০০জিবি/সেকেন্ড এনডিআর সুইচগুলির একটি দ্বিতীয় স্তর সমস্ত লিফ সুইচগুলিকে ইন্টারকানেক্ট করে, একটি ফুল-বাইসেকশন-ব্যান্ডউইথ ফ্যাট-ট্রি ফ্যাব্রিক তৈরি করে।

৫,০০০ নোডের বেশি ক্লাস্টারের জন্য, একটি তিন-স্তরীয় ফোল্ডেড-ক্লোস আর্কিটেকচার প্রয়োগ করা যেতে পারে, যেখানে ৯২০-৯বি২১০-০০এফএন-০ডি০ লিফ এবং স্পাইন উভয় হিসাবে কাজ করে যাতে সমস্ত স্তরে সামঞ্জস্যপূর্ণ পারফরম্যান্স বজায় রাখা যায়। সুইচটি একটি একক সাবনেট ম্যানেজারের অধীনে একটি একক ফ্যাব্রিক-এ ৬৪টি পর্যন্ত সুইচ সমর্থন করে, যা বড়-স্কেল টপোলজির ইউনিফাইড নিয়ন্ত্রণ সক্ষম করে।

নিম্নলিখিত সারণীটি ৯২০-৯বি২১০-০০এফএন-০ডি০ এর চারপাশে নির্মিত একটি ২-স্তরীয় এনডিআর ফ্যাব্রিকের জন্য মূল স্কেলিং প্যারামিটারগুলি সংক্ষিপ্ত করে:

৩. এনভিডিয়া মেলানক্স ৯২০-৯বি২১০-০০এফএন-০ডি০ এর ভূমিকা ও মূল বৈশিষ্ট্য

এই আর্কিটেকচারের মধ্যে, এনভিডিয়া মেলানক্স ৯২০-৯বি২১০-০০এফএন-০ডি০ ভিত্তিগত সুইচিং উপাদান হিসাবে কাজ করে, বেশ কয়েকটি গুরুত্বপূর্ণ ক্ষমতা সরবরাহ করে যা সরাসরি ১ নং বিভাগে চিহ্নিত প্রয়োজনীয়তাগুলি পূরণ করে:

• ৬৪টি ৪০০জিবি/সেকেন্ড এনডিআর পোর্ট: প্রতিটি ওএসএফপি পোর্ট নির্ভরযোগ্য বর্ধিত-রেঞ্জ কানেক্টিভিটির জন্য ফরওয়ার্ড এরর কারেকশন (এফইসি) সহ দ্বিমুখী ৪০০জিবি/সেকেন্ড সমর্থন করে। ৫১.২ টিবি/সেকেন্ডের সমষ্টিগত সুইচিং ক্ষমতা এমনকি সবচেয়ে যোগাযোগ-নিবিড় ওয়ার্কলোডগুলির জন্যও পর্যাপ্ত হেডরুম সরবরাহ করে।
• আল্ট্রা-লো কাট-থ্রু ল্যাটেন্সি: সাব-১০০এনএস পোর্ট-টু-পোর্ট ল্যাটেন্সি, ৯২০-৯বি২১০-০০এফএন-০ডি০ ডেটাশিট এ নথিভুক্ত হিসাবে, এম্পিআই এবং আরডিএমএ অপারেশনের জন্য ন্যূনতম ওভারহেড নিশ্চিত করে।
• ইন্টিগ্রেটেড এসএইচএআরপিভি৩: হোস্ট সিপিইউ থেকে কালেক্টিভ অপারেশন অফলোড করে, বড়-স্কেল জবগুলিতে অল-রিডিউস ল্যাটেন্সি ৪০% পর্যন্ত এবং অল-টু-অল ৩৫% পর্যন্ত কমিয়ে দেয়।
• অ্যাডাপ্টিভ রাউটিং এবং কনজেশন কন্ট্রোল: প্রতিকূল ট্র্যাফিক প্যাটার্নের অধীনে অনুমানযোগ্য পারফরম্যান্স বজায় রেখে হটস্পট এড়াতে গতিশীলভাবে ট্র্যাফিক পুনরায় রুট করে। উন্নত টেলিমেট্রি প্রোঅ্যাক্টিভ ম্যানেজমেন্টের জন্য প্রতি-ফ্লো এবং প্রতি-পোর্ট দৃশ্যমানতা সরবরাহ করে।
• ব্যাপক পরিচালনাযোগ্যতা: জিরো-টাচ প্রভিশনিং, স্বাস্থ্য পর্যবেক্ষণ এবং স্বয়ংক্রিয় ফেইলওভারের জন্য এনভিডিয়ার ইউনিফাইড ফ্যাব্রিক ম্যানেজার (ইউএফএম) এর সাথে সম্পূর্ণ ইন্টিগ্রেশন।

৯২০-৯বি২১০-০০এফএন-০ডি০ স্পেসিফিকেশন এছাড়াও ডুয়াল-রিডান্ড্যান্ট পাওয়ার সাপ্লাই, হট-সোয়াপযোগ্য ফ্যান মডিউল এবং রিডান্ড্যান্ট সাবনেট ম্যানেজার কনফিগারেশনের জন্য সমর্থন হাইলাইট করে, মিশন-ক্রিটিক্যাল ওয়ার্কলোডগুলির জন্য ৯৯.৯৯৯% উপলব্ধতা নিশ্চিত করে।

৪. স্থাপনা ও স্কেলেবিলিটি সুপারিশ

যারা ৯২০-৯বি২১০-০০এফএন-০ডি০ ইনফিনিব্যান্ড সুইচ ওপিএন সমাধান গ্রহণ করার পরিকল্পনা করছেন তাদের জন্য, নিম্নলিখিত স্থাপনা নির্দেশিকাগুলি সুপারিশ করা হয়:

• ক্যাবলিং কৌশল: ইন্ট্রা-র‍্যাক সংযোগের জন্য (৩ মিটার পর্যন্ত) ওএসএফপি-টু-ওএসএফপি ডিএসি কেবল এবং ইন্টার-র‍্যাক এবং স্পাইন-লিফ লিঙ্কের জন্য (১০০ মিটার পর্যন্ত) এওসি বা অপটিক্যাল ট্রান্সসিভার ব্যবহার করুন। সিগন্যাল ইন্টিগ্রিটি সমস্যা এড়াতে এনভিডিয়া সামঞ্জস্যতা ম্যাট্রিক্স অনুসারে সমস্ত কেবল ৯২০-৯বি২১০-০০এফএন-০ডি০ সামঞ্জস্যপূর্ণ কিনা তা যাচাই করুন।
• রিডান্ডেন্সি: পৃথক পিডিইউ-এর সাথে সংযুক্ত ডুয়াল পাওয়ার সাপ্লাই স্থাপন করুন। একক ব্যর্থতার পয়েন্টগুলি দূর করতে প্রতি লিফ-এ কমপক্ষে দুটি স্পাইন সুইচ ব্যবহার করুন। মিশন-ক্রিটিক্যাল ওয়ার্কলোডগুলির জন্য, স্পাইন স্তরে এন+১ রিডান্ডেন্সি বিবেচনা করুন।
• ফার্মওয়্যার ব্যবস্থাপনা: নিশ্চিত করুন যে সমস্ত সুইচ অভিন্ন এনভিডিয়া ফার্মওয়্যার সংস্করণ চালাচ্ছে। ডাউনটাইম ছাড়াই রোলিং আপডেটের জন্য ইউএফএম এর স্বয়ংক্রিয় ফার্মওয়্যার আপগ্রেড বৈশিষ্ট্য ব্যবহার করুন। স্থাপনার আগে হোস্ট অ্যাডাপ্টার এবং কেবলগুলির সাথে ফার্মওয়্যার সামঞ্জস্যতা যাচাই করুন।
• স্কেলেবিলিটি পথ: ৪,০৯৬ নোডের বাইরে ক্লাস্টারগুলির জন্য, তিন-স্তরীয় ফোল্ডেড-ক্লোস টপোলজিতে স্থানান্তর করুন বা অ্যাডাপ্টিভ রাউটিং সহ ড্রাগনফ্লাই+ ব্যবহার করুন। ৯২০-৯বি২১০-০০এফএন-০ডি০ একটি একক ফ্যাব্রিক-এ ৬৪টি পর্যন্ত সুইচ সমর্থন করে, বৃহত্তর স্থাপনার জন্য গেটওয়ের মাধ্যমে একাধিক ফ্যাব্রিক ইন্টারকানেক্টেড।
• পারফরম্যান্স যাচাইকরণ: প্রোডাকশন স্থাপনার আগে, ৯২০-৯বি২১০-০০এফএন-০ডি০ ডেটাশিট স্পেসিফিকেশনের বিরুদ্ধে ফ্যাব্রিক পারফরম্যান্স যাচাই করতে ওপেনফ্যাব্রিক্স এন্টারপ্রাইজ ডিস্ট্রিবিউশন (ওএফইডি) পারফরম্যান্স বেঞ্চমার্ক ব্যবহার করে ব্যাপক স্ট্রেস টেস্ট চালান।

মোট মালিকানা ব্যয় গণনা করার সময়, কম রেডিক্স বিকল্পগুলির তুলনায় কম সুইচ স্তর এবং সরলীকৃত ক্যাবলিংয়ের সংখ্যা বিবেচনা করুন। যদিও প্রতি ইউনিটে ৯২০-৯বি২১০-০০এফএন-০ডি০ মূল্য এইচডিআর সুইচের চেয়ে বেশি, বড়-স্কেল স্থাপনায় প্রতি-পোর্ট খরচ এবং প্রতি-জিপিইউ নেটওয়ার্কিং খরচ উল্লেখযোগ্যভাবে কম, যা এটিকে এক্সাস্কেল প্রকল্পগুলির জন্য একটি সাশ্রয়ী পছন্দ করে তোলে।

৫. অপারেশন, মনিটরিং ও ট্রাবলশুটিং

একটি এনডিআর ফ্যাব্রিকের কার্যকর ব্যবস্থাপনা একটি ব্যাপক পর্যবেক্ষণ এবং ট্রাবলশুটিং ফ্রেমওয়ার্কের প্রয়োজন। এনভিডিয়ার ইউএফএম পুরো এনভিডিয়া মেলানক্স ৯২০-৯বি২১০-০০এফএন-০ডি০-ভিত্তিক ফ্যাব্রিকের জন্য একটি একক প্যান অফ গ্লাস সরবরাহ করে, যা সরবরাহ করে:

• টপোলজি ভিজ্যুয়ালাইজেশন: সমস্ত সুইচ, লিঙ্ক এবং এন্ডপয়েন্টগুলির রিয়েল-টাইম স্ট্যাটাস আপডেট সহ স্বয়ংক্রিয় আবিষ্কার এবং গ্রাফিকাল উপস্থাপনা।
• পারফরম্যান্স ড্যাশবোর্ড: পুরো ফ্যাব্রিক জুড়ে পোর্ট ব্যবহার, ত্রুটির হার, কনজেশন সূচক এবং বাফার অকুপেন্সি এর রিয়েল-টাইম ভিউ।
• প্রোঅ্যাক্টিভ অ্যালার্টিং: লিঙ্ক অবনতি, তাপমাত্রা অস্বাভাবিকতা, পাওয়ার সাপ্লাই ব্যর্থতা এবং কেবল পরিধানের জন্য থ্রেশহোল্ড-ভিত্তিক অ্যালার্ম।
• ফল্ট আইসোলেশন: ত্রুটিপূর্ণ কেবল, ট্রান্সসিভার বা সুইচ পোর্টগুলি সনাক্ত করে এমন গাইডড ট্রাবলশুটিং ওয়ার্কফ্লো, যা রেজোলিউশনের গড় সময় (এমটিটিআর) হ্রাস করে।
• ঐতিহাসিক বিশ্লেষণ: ঐতিহাসিক পারফরম্যান্স ডেটার উপর ভিত্তি করে ট্রেন্ড বিশ্লেষণ এবং ক্ষমতা পরিকল্পনা, যা প্রোঅ্যাক্টিভ স্কেলিং সিদ্ধান্ত সক্ষম করে।

উন্নত ট্রাবলশুটিংয়ের জন্য, লুপব্যাক টেস্ট, বিইআর (বিট এরর রেট) বিশ্লেষণ এবং অপটিক্যাল মডিউল ডায়াগনস্টিক মনিটরিং (ডিওএম) সহ সুইচের অন্তর্নির্মিত ডায়াগনস্টিক সরঞ্জামগুলি ব্যবহার করুন। প্রাথমিক এনডিআর স্থাপনায় সাধারণ সমস্যাগুলির মধ্যে রয়েছে অসম লিঙ্ক গতি, অমিল কেবল প্রকার বা ফার্মওয়্যার অসঙ্গতির কারণে সাবঅপ্টিমাল রাউটিং। অ্যাডাপ্টিভ রাউটিং সক্ষম করা, সমস্ত লিঙ্ক এফইসি সক্ষম সহ ৪০০জিবি/সেকেন্ডে চলছে তা যাচাই করা এবং সমস্ত সুইচে সামঞ্জস্যপূর্ণ ফার্মওয়্যার নিশ্চিত করা বেশিরভাগ পারফরম্যান্স অসঙ্গতি সমাধান করে।

নেটওয়ার্ক ইঞ্জিনিয়ারদের যাচাইকরণ পর্যায়ে ৯২০-৯বি২১০-০০এফএন-০ডি০ স্পেসিফিকেশন এর একটি বেসলাইনও স্থাপন করা উচিত, যার মধ্যে প্রত্যাশিত ল্যাটেন্সি, থ্রুপুট এবং ত্রুটির হার অন্তর্ভুক্ত। এই বেসলাইন থেকে বিচ্যুতি সম্ভাব্য সমস্যাগুলির প্রাথমিক সূচক হিসাবে ব্যবহার করা যেতে পারে। ৯২০-৯বি২১০-০০এফএন-০ডি০ ইনফিনিব্যান্ড সুইচ ওপিএন এছাড়াও সিস্টে লগ এবং এসএনএমপি এর মাধ্যমে ব্যাপক ইভেন্ট লগিং সমর্থন করে, যা বিদ্যমান ডেটা সেন্টার মনিটরিং স্ট্যাকগুলির সাথে ইন্টিগ্রেশন সক্ষম করে।

৬. সারসংক্ষেপ ও মূল্য মূল্যায়ন

৯২০-৯বি২১০-০০এফএন-০ডি০ এনডিআর-ভিত্তিক এইচপিসি এবং এআই ক্লাস্টার তৈরি বা সম্প্রসারণকারী সংস্থাগুলির জন্য একটি আকর্ষণীয় মূল্য প্রস্তাব সরবরাহ করে। এটি সাব-১০০এনএস ল্যাটেন্সি, এসএইচএআরপিভি৩ অফলোড, এন্টারপ্রাইজ-গ্রেড পরিচালনাযোগ্যতা এবং বিদ্যমান এইচডিআর ইকোসিস্টেমের সাথে সম্পূর্ণ সামঞ্জস্য সহ ৬৪টি ৪০০জিবি/সেকেন্ড এনডিআর পোর্ট সরবরাহ করে—সবই একটি কমপ্যাক্ট ১ইউ প্ল্যাটফর্মে। মূল মূল্য পয়েন্টগুলির মধ্যে রয়েছে:

• পারফরম্যান্স: এসএইচএআরপিভি৩ অফলোডিং এবং এনডিআর ব্যান্ডউইথের মাধ্যমে অল-টু-অল কমিউনিকেশন ল্যাটেন্সি ৭৫% পর্যন্ত এবং অল-রিডিউস ল্যাটেন্সি ৪০% পর্যন্ত হ্রাস।
• খরচ কার্যকারিতা: বড়-স্কেল স্থাপনায় এইচডিআর বিকল্পগুলির তুলনায় প্রতি-জিপিইউ নেটওয়ার্কিং খরচ কম, যা উচ্চতর রেডিক্স এবং কম সুইচ-স্তর গণনার দ্বারা চালিত।
• অপারেশনাল সরলতা: ইউনিফাইড ম্যানেজমেন্ট, স্বয়ংক্রিয় প্রভিশনিং, প্রোঅ্যাক্টিভ মনিটরিং এবং দ্রুত ফল্ট রেজোলিউশনের জন্য ইউএফএম এর সাথে গভীর ইন্টিগ্রেশন।
• বিনিয়োগ সুরক্ষা: বিদ্যমান এইচডিআর কেবল, অপটিক্স এবং সফ্টওয়্যার স্ট্যাকগুলির সাথে সম্পূর্ণ সামঞ্জস্য, প্রোডাকশন ওয়ার্কলোডগুলিতে ব্যাঘাত না ঘটিয়ে পর্যায়ক্রমিক আপগ্রেড সক্ষম করে।
• ভবিষ্যৎ-প্রমাণ স্কেলেবিলিটি: তিন-স্তরীয় ফোল্ডেড-ক্লোস এবং ড্রাগনফ্লাই+ টপোলজির জন্য সমর্থন, যা কম্পিউট চাহিদা বৃদ্ধির সাথে সাথে ফ্যাব্রিককে ৮,০০০+ নোড পর্যন্ত স্কেল করতে সক্ষম করে।

যারা ৯২০-৯বি২১০-০০এফএন-০ডি০ বিক্রয়ের জন্য এনভিডিয়ার চ্যানেল অংশীদারদের মাধ্যমে মূল্যায়ন করছেন, তাদের বিস্তারিত ৯২০-৯বি২১০-০০এফএন-০ডি০ ডেটাশিট পর্যালোচনা করার এবং আপনার নির্দিষ্ট ওয়ার্কলোড এবং স্কেল প্রয়োজনীয়তাগুলির জন্য ডিজাইন যাচাই করতে একজন প্রত্যয়িত সমাধান স্থপতির সাথে যুক্ত হওয়ার সুপারিশ করা হয়। এনভিডিয়া মেলানক্স ৯২০-৯বি২১০-০০এফএন-০ডি০ আজই প্রোডাকশন-রেডি, যা পরবর্তী প্রজন্মের এআই এবং এইচপিসি উদ্ভাবনের জন্য একটি উচ্চ-পারফরম্যান্স, স্কেলযোগ্য ইন্টারকানেক্ট ভিত্তি সরবরাহ করে।