NVIDIA Mellanox MCX631432AN-ADAB সার্ভার অ্যাডাপ্টার প্রযুক্তিগত সমাধানঃ RDMA/RoCE লো-লেটেন্সি ট্রান্সপোর্ট এবং সার্ভার

এনভিডিয়া মেলানক্স এমসিএক্স৬৩১৪৩২এএন-এডিএবি সার্ভার অ্যাডাপ্টার প্রযুক্তিগত সমাধান: আরডিএমএ/রোসি লো-ল্যাটেন্সি ট্রান্সপোর্ট এবং সার্ভার থ্রুপুট এনহ্যান্সমেন্ট আর্কিটেকচার

১. প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

কৃত্রিম বুদ্ধিমত্তা, উচ্চ-কার্যকারিতা কম্পিউটিং এবং বিতরণকৃত স্টোরেজ ওয়ার্কলোডগুলি ক্রমবর্ধমানভাবে প্রচলিত হওয়ার সাথে সাথে ডেটা সেন্টার নেটওয়ার্কগুলি অভূতপূর্ব কর্মক্ষমতা চ্যালেঞ্জের সম্মুখীন হচ্ছে। ঐতিহ্যবাহী টিসিপি/আইপি নেটওয়ার্ক প্রোটোকল স্ট্যাক বড় আকারের বিতরণকৃত যোগাযোগের ক্ষেত্রে কাঠামোগত ত্রুটি প্রদর্শন করে — যার মধ্যে অতিরিক্ত সিপিইউ ওভারহেড, অপ্রত্যাশিত ল্যাটেন্সি এবং অপ্টিমাল ব্যান্ডউইথ ব্যবহার অন্তর্ভুক্ত। জিপিইউ ক্লাস্টার কালেক্টিভ কমিউনিকেশন অপারেশন যেমন অল-রিডিউস এবং অল-গ্যাদার-এর জন্য, প্রতি ১ মিলিসেকেন্ড নেটওয়ার্ক ল্যাটেন্সি সামগ্রিক প্রশিক্ষণের দক্ষতা ১০-১৫% কমাতে পারে।

সাধারণ এন্টারপ্রাইজ প্রয়োজনীয়তাগুলির মধ্যে রয়েছে:

• মাইক্রোসেকেন্ড-স্কেল কমিউনিকেশন ল্যাটেন্সি: বিতরণকৃত প্রশিক্ষণ এবং রিয়েল-টাইম ইনফারেন্স পরিস্থিতিতে ১ মিলিসেকেন্ডের নিচে ইন্টার-নোড কমিউনিকেশন ল্যাটেন্সি প্রয়োজন, যেখানে জিতার ১০০ মাইক্রোসেকেন্ডের মধ্যে নিয়ন্ত্রিত থাকে।
• সিপিইউ কম্পিউট অফলোড: নেটওয়ার্ক প্রোটোকল প্রক্রিয়াকরণের জন্য কম্পিউটেশন এবং ডেটা প্রিপ্রসেসিংয়ের জন্য ক্ষমতা সংরক্ষণের জন্য সিপিইউ সংস্থানগুলির ১০% এর কম ব্যবহার করতে হবে।
• লিনিয়ার ব্যান্ডউইথ স্কেলেবিলিটি: ক্লাস্টারগুলি কয়েক ডজন থেকে শত শত নোডে স্কেল করার সাথে সাথে, নেটওয়ার্ক ব্যান্ডউইথ একটি সীমাবদ্ধতা হওয়া উচিত নয়, ২৫জিবিই থেকে ১০০জিবিই পর্যন্ত মসৃণ বিবর্তন সমর্থন করে।
• লসলেস নেটওয়ার্ক গ্যারান্টি: রোসি প্যাকেট লসের প্রতি অত্যন্ত সংবেদনশীল, যার জন্য সঠিকভাবে কনফিগার করা পিএফসি এবং ইসিএন মেকানিজম সহ একটি এন্ড-টু-এন্ড লসলেস ইথারনেট পরিবেশ প্রয়োজন।

কর্মক্ষমতা৫০ জিবি/সেকেন্ড থ্রুপুট, সাব-০.৫μএস ল্যাটেন্সি, ২-৩× অ্যাপ্লিকেশন-লেভেল থ্রুপুট উন্নতি২. সামগ্রিক নেটওয়ার্ক/সিস্টেম আর্কিটেকচার ডিজাইন

প্রস্তাবিত আর্কিটেকচার রোসি ট্রান্সপোর্টের জন্য বিশেষভাবে অপ্টিমাইজ করা একটি লিফ-স্পাইন টপোলজি ব্যবহার করে। এই ডিজাইনের ভিত্তি হল

এমসিএক্স৬৩১৪৩২এএন-এডিএবি ইথারনেট অ্যাডাপ্টার কার্ড সমাধানআর্কিটেকচার স্তর:

কম্পিউট/স্টোরেজ নোড:

• প্রতিটি সার্ভার একটিএমসিএক্স৬৩১৪৩২এএন-এডিএবি কানেক্টএক্স-৬ এলএক্স ডুয়াল-পোর্ট ২৫জিবিই এসএফপি২৮এমসিএক্স৬৩১৪৩২এএন-এডিএবিলিফ স্তর:
• এনভিডিয়া স্পেকট্রাম-৩ সুইচগুলি রোসি-সচেতন কনজেশন কন্ট্রোল (পিএফসি/ইসিএন) এবং উন্নত বাফার ম্যানেজমেন্ট সহ লো-ল্যাটেন্সি, লসলেস ইথারনেট ফরওয়ার্ডিং সরবরাহ করে।স্পাইন স্তর:
• উচ্চ-ক্ষমতার স্পাইন সুইচগুলি ১০০জিবিই আপলিংকের মাধ্যমে লিফ নোডগুলিকে ইন্টারকানেক্ট করে, পুরো ফ্যাব্রিক জুড়ে নন-ব্লকিং পারফরম্যান্স নিশ্চিত করে।ম্যানেজমেন্ট প্লেন:
• আউট-অফ-ব্যান্ড ম্যানেজমেন্ট নেটওয়ার্ক এনভিডিয়া ডোকএ এবং এমএলএনএক্স-ওএস এর মাধ্যমে টেলিমেট্রি সংগ্রহ, কনফিগারেশন অর্কেস্ট্রেশন এবং স্বাস্থ্য পর্যবেক্ষণ সক্ষম করে।ডিজাইনটি মাইক্রো-সেগমেন্টেশন এবং ট্র্যাফিক আইসোলেশনের জন্য হার্ডওয়্যার-ভিত্তিক ভি-সুইচ অফলোড অন্তর্ভুক্ত করে, যা কোনও কর্মক্ষমতা হ্রাস ছাড়াই টেন্যান্ট ট্র্যাফিক বিচ্ছিন্ন থাকে তা নিশ্চিত করে।

৩. সমাধানে এনভিডিয়া মেলানক্স এমসিএক্স৬৩১৪৩২এএন-এডিএবি-এর ভূমিকা এবং মূল বৈশিষ্ট্য

প্রতিটি সার্ভারের জন্য মৌলিক নেটওয়ার্ক ইন্টারফেস হিসাবে,

এনভিডিয়া মেলানক্স এমসিএক্স৬৩১৪৩২এএন-এডিএবি৫০ জিবি/সেকেন্ড থ্রুপুট, সাব-০.৫μএস ল্যাটেন্সি, ২-৩× অ্যাপ্লিকেশন-লেভেল থ্রুপুট উন্নতিবৈশিষ্ট্য

অনুসারে, অ্যাডাপ্টারটিতে ইন-লাইন আইপিএসইসি এবং ম্যাকএসইসি এনক্রিপশন ইঞ্জিনও অন্তর্ভুক্ত রয়েছে, যা লাইন-রেট থ্রুপুটকে আপোস না করে ডেটা-ইন-ট্রানজিট সুরক্ষা নিশ্চিত করে। ব্যাপকপারফরম্যান্স টিউনিং নির্দেশিকা: উন্নত টেলিমেট্রি ক্ষমতাগুলির জন্য সমর্থন নিশ্চিত করে — যার মধ্যে প্রতি-প্রবাহ কাউন্টার, ল্যাটেন্সি হিস্টোগ্রাম এবং কনজেশন সনাক্তকরণ মেট্রিক্স অন্তর্ভুক্ত — যা সক্রিয় নেটওয়ার্ক অপারেশনের জন্য অপরিহার্য।৪. স্থাপনা এবং স্কেলিংয়ের সুপারিশ (সাধারণ টপোলজি সহ)এনভিডিয়া মেলানক্স এমসিএক্স৬৩১৪৩২এএন-এডিএবি-এর প্রোডাকশন স্থাপনার পরিকল্পনা করা সংস্থাগুলির জন্য, নিম্নলিখিত পর্যায়ক্রমিক পদ্ধতিটি সুপারিশ করা হয়:

পর্যায় ১ — পাইলট স্থাপনা (৪-৮ নোড):

রোসি কনফিগারেশন যাচাই করতে, পিএফসি/ইসিএন প্যারামিটারগুলি ফাইন-টিউন করতে এবং অ্যাপ্লিকেশন পারফরম্যান্স বেঞ্চমার্ক করতে একটি ছোট ক্লাস্টার দিয়ে শুরু করুন।৫০ জিবি/সেকেন্ড থ্রুপুট, সাব-০.৫μএস ল্যাটেন্সি, ২-৩× অ্যাপ্লিকেশন-লেভেল থ্রুপুট উন্নতি সর্বোত্তম সামঞ্জস্য এবং কর্মক্ষমতা নিশ্চিত করার জন্য সর্বশেষ মেলানক্স ওএফইডি ড্রাইভার এবং ফার্মওয়্যার সহ ইনস্টল করা উচিত।

পর্যায় ২ — পড সম্প্রসারণ (২০-৫০ নোড): একটি সম্পূর্ণ র‍্যাক বা পডে স্কেল করুন, লসলেস ইথারনেট কনফিগারেশন সহ একজোড়া লিফ সুইচ স্থাপন করুন। হার্ডওয়্যার-ভিত্তিক কনজেশন ম্যানেজমেন্ট সক্ষম করুন এবং যাচাইকৃত সেরা অনুশীলন অনুসারে ডিসিবি (ডেটা সেন্টার ব্রিজিং) প্যারামিটারগুলি কনফিগার করুন। এই পর্যায়ে,এমসিএক্স৬৩১৪৩২এএন-এডিএবি সামঞ্জস্যপূর্ণ সমাধানের প্রকৃতি বিদ্যমান ব্যবস্থাপনা সরঞ্জামগুলির সাথে একীকরণকে সহজ করে তোলে।

পর্যায় ৩ — ফ্যাব্রিক-ব্যাপী রোলআউট (১০০+ নোড): স্পাইন সুইচগুলি লিফ নোডগুলিকে ইন্টারকানেক্ট করে একাধিক র‍্যাকে স্থাপন করুন। অ্যাডাপ্টারের হার্ডওয়্যার স্টিয়ারিং ক্ষমতা ব্যবহার করে ট্র্যাফিক ইঞ্জিনিয়ারিং প্রয়োগ করুন এবং অর্কেস্ট্রেশন এবং স্বয়ংক্রিয় প্রভিশনিংয়ের জন্য এনভিডিয়া ইউনিফাইড ফ্যাব্রিক ম্যানেজার ব্যবহার করুন।সাধারণ টপোলজি বর্ণনা: একটি স্ট্যান্ডার্ড র‍্যাক কনফিগারেশনে ২০টি কম্পিউট/স্টোরেজ সার্ভার থাকে, প্রতিটিতে একটি

এমসিএক্স৬৩১৪৩২এএন-এডিএবি কানেক্টএক্স-৬ এলএক্স ডুয়াল-পোর্ট ২৫জিবিই এসএফপি২৮। পোর্ট ১ লিফ সুইচ এ-এর সাথে সংযুক্ত হয়, পোর্ট ২ লিফ সুইচ বি-এর সাথে সংযুক্ত হয়, যা রিডান্ড্যান্ট সক্রিয়-সক্রিয় পাথ সরবরাহ করে। লিফ সুইচগুলি ১০০জিবিই আপলিংকের মাধ্যমে স্পাইন সুইচগুলিতে আপলিংক করে, একটি ক্লোস ফ্যাব্রিক তৈরি করে। এই টপোলজি নিশ্চিত করে যে কোনও একক লিঙ্ক বা সুইচ ব্যর্থতা অ্যাপ্লিকেশন প্রাপ্যতাকে প্রভাবিত করে না, যখন অ্যাডাপ্টারের হার্ডওয়্যার ফেইলওভার মেকানিজম সাব-সেকেন্ড পুনরুদ্ধার সরবরাহ করে।

৫. অপারেশন, মনিটরিং, ট্রাবলশুটিং এবং অপ্টিমাইজেশনএকটি রোসি-ভিত্তিক নেটওয়ার্কের কার্যকর অপারেশন বিশেষ পর্যবেক্ষণ এবং সমস্যা সমাধানের অনুশীলনের প্রয়োজন।এমসিএক্স৬৩১৪৩২এএন-এডিএবি এই ক্রিয়াকলাপগুলি সমর্থন করার জন্য ব্যাপক বিল্ট-ইন ইন্সট্রুমেন্টেশন সরবরাহ করে:

টেলিমেট্রি সংগ্রহ:

সাব-সেকেন্ড গ্রানুলারিটিতে প্রতি-প্রবাহ থ্রুপুট, কিউ ডেপথ, প্যাকেট ড্রপস এবং ল্যাটেন্সি ডিস্ট্রিবিউশন নিরীক্ষণের জন্য অ্যাডাপ্টারের হার্ডওয়্যার কাউন্টারগুলি ব্যবহার করুন। এই ডেটা রিয়েল-টাইম দৃশ্যমানতার জন্য কেন্দ্রীভূত পর্যবেক্ষণ ড্যাশবোর্ডে (যেমন, গ্রাফানা, প্রমিথিউস) ফিড করে। মাইক্রো-বার্স্ট এবং ট্র্যাফিক হটস্পট সনাক্ত করতে পিএফসি পজ ফ্রেম, ইসিএন-মার্কেট প্যাকেট এবং বাফার অকুপেন্সি নিরীক্ষণ করুন।

• এমসিএক্স৬৩১৪৩২এএন-এডিএবি ডেটাশিট এই কাউন্টারগুলি ব্যাখ্যা করার এবং সতর্কতা থ্রেশহোল্ড স্থাপন করার বিষয়ে বিস্তারিত নির্দেশিকা সরবরাহ করে।
• ফার্মওয়্যার এবং ড্রাইভার লাইফসাইকেল ম্যানেজমেন্ট: কর্মক্ষমতা, নিরাপত্তা এবং বৈশিষ্ট্য উন্নত করার জন্য এনভিডিয়া ওএফইডি ড্রাইভার স্ট্যাক এবং অ্যাডাপ্টার ফার্মওয়্যারের নিয়মিত আপডেট অপরিহার্য। বড় ফ্লিট জুড়ে স্বয়ংক্রিয়, জিরো-টাচ লাইফসাইকেল ম্যানেজমেন্টের জন্য এনভিডিয়া ডোকএ ফ্রেমওয়ার্ক ব্যবহার করুন।পারফরম্যান্স টিউনিং নির্দেশিকা: মূল টিউনিং প্যারামিটারগুলির মধ্যে রয়েছে পিএফসি বাফার থ্রেশহোল্ড, ইসিএন মার্কিং সীমা (সাধারণত কিউ ডেপথের ৮০-৯০%), এবং ওয়ার্কলোড প্রোফাইলের উপর ভিত্তি করে ল্যাটেন্সি এবং থ্রুপুটকে সর্বোত্তমভাবে ভারসাম্য করার জন্য অ্যাডাপ্টার ইন্টারাপ্ট মডারেশন সেটিংস।
• ট্রাবলশুটিং ফ্রেমওয়ার্ক: বেশিরভাগ কর্মক্ষমতা সমস্যা ডিসিবি মিসকনফিগারেশন, এমটিইউ মিসম্যাচ বা বেমানান ড্রাইভার সংস্করণের কারণে হতে পারে। অ্যাডাপ্টারের ডায়াগনস্টিক টুলসেট (এমএসটিফ্লিন্ট, ইথটুল, এমএলএনএক্সকনফিগ, এবং এমএলএনএক্সলিঙ্ক) অপারেশনাল স্ট্যাটাস, লিঙ্ক স্বাস্থ্য এবং ত্রুটি পরিসংখ্যানের ব্যাপক দৃশ্যমানতা সরবরাহ করে।
• মোট মালিকানা ব্যয়ের মূল্যায়নকারী সংস্থাগুলির জন্য,এমসিএক্স৬৩১৪৩২এএন-এডিএবি মূল্য
• সিপিইউ সাশ্রয় (সাধারণত প্রতি সার্ভারে ২-৩ কোর পুনরুদ্ধার) এবং থ্রুপুট লাভের সাথে বিবেচনা করা উচিত। অনেক এন্টারপ্রাইজ খুঁজে পায় যেবিক্রয়ের জন্য এমসিএক্স৬৩১৪৩২এএন-এডিএবি

এনভিডিয়া স্পেকট্রাম সুইচগুলির সাথে বান্ডিলগুলি গ্রিনফিল্ড স্থাপনার জন্য সবচেয়ে সাশ্রয়ী পথ সরবরাহ করে।৬. সারসংক্ষেপ এবং মূল্য মূল্যায়নএনভিডিয়া মেলানক্স এমসিএক্স৬৩১৪৩২এএন-এডিএবি একটি কৌশলগত অবকাঠামো বিনিয়োগের প্রতিনিধিত্ব করে যা তিনটি মাত্রায় পরিমাপযোগ্য ব্যবসায়িক মূল্য সরবরাহ করে:মাত্রা

প্রদত্ত মূল্য

কর্মক্ষমতা৫০ জিবি/সেকেন্ড থ্রুপুট, সাব-০.৫μএস ল্যাটেন্সি, ২-৩× অ্যাপ্লিকেশন-লেভেল থ্রুপুট উন্নতিদক্ষতা