মেলানক্স (এনভিআইডিআইএ মেলানক্স) এমসিএক্স 631102 এএন-এডিএটি সার্ভার অ্যাডাপ্টার প্রযুক্তিগত সমাধান

মেলানক্স (এনভিআইডিআইএ মেলানক্স) এমসিএক্স 631102 এএন-এডিএটি সার্ভার অ্যাডাপ্টার প্রযুক্তিগত সমাধানঃ আরডিএমএ / রোসিই লো-লেটেন্সি ট্রান্সপোর্ট এবং সার্ভারের থ্রুপুট বর্ধন

1প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

আধুনিক ডেটা সেন্টারগুলি "কম্পিউট-কেন্দ্রিক" থেকে "ডেটা-কেন্দ্রিক" আর্কিটেকচারে একটি মৌলিক পরিবর্তনের মধ্য দিয়ে যাচ্ছে, যা এআই/এমএল ওয়ার্কলোড, বিতরণকৃত স্টোরেজ সিস্টেম,এবং রিয়েল-টাইম বিশ্লেষণ প্ল্যাটফর্ম. এই প্রসঙ্গে নেটওয়ার্ক অ্যাডাপ্টার আর একটি প্যাসিভ সংযোগ উপাদান নয় কিন্তু সামগ্রিক অ্যাপ্লিকেশন কর্মক্ষমতা একটি সমালোচনামূলক নির্ধারক। ঐতিহ্যগত TCP / IP ভিত্তিক নেটওয়ার্কিং,এর কার্নেল বাইপাস সীমাবদ্ধতা এবং প্রোটোকল স্ট্যাক ওভারহেড সহ, পরবর্তী প্রজন্মের ওয়ার্কলোডের জন্য প্রয়োজনীয় মাইক্রোসেকেন্ড লেটেন্সি এবং লাইন-রেট থ্রুপুট সরবরাহ করতে ব্যর্থ হওয়ার সময় 30% পর্যন্ত সিপিইউ চক্র খরচ করে একটি প্রাথমিক বোতল ঘা হয়ে উঠেছে।

বিশেষ করে, তিনটি আন্তঃসংযুক্ত চ্যালেঞ্জের জন্য একটি স্থাপত্যগত প্রতিক্রিয়া প্রয়োজন। প্রথমত,স্টোরেজ সিস্টেমগুলি NVMe over Fabrics (NVMe-oF) ব্যবহার করে আধুনিক ফ্ল্যাশ মিডিয়া সম্পূর্ণরূপে ব্যবহার করার জন্য 100-মাইক্রোসেকেন্ডের অধীনে অ্যাক্সেস লেটেন্সি প্রয়োজন; নেটওয়ার্ক-প্ররোচিত বিলম্ব সরাসরি স্টোরেজ কর্মক্ষমতা হ্রাস করে।বিতরণকৃত এআই প্রশিক্ষণ ফ্রেমওয়ার্ক যেমন পাইটর্চ এবং টেনসরফ্লো জিপিইউ ক্লাস্টার জুড়ে ঘন ঘন অল-রেডুস অপারেশনের উপর নির্ভর করেতৃতীয়ত, ভার্চুয়ালাইজেশন এবং কনটেইনারাইজেশন অতিরিক্ত ইনক্যাপসুলার ওভারহেড নিয়ে আসে,স্কেলে পারফরম্যান্স বজায় রাখার জন্য বুদ্ধিমান হার্ডওয়্যার ডাউনলোডের প্রয়োজন.মেলানক্স (এনভিআইডিআইএ মেলানক্স) MCX631102AN-ADATসার্ভার অ্যাডাপ্টার সরাসরি এই প্রয়োজনীয়তা সমাধান করে, উচ্চ-কার্যকারিতা, কম-ল্যাটেনসি ডেটা সেন্টার নেটওয়ার্কিংয়ের জন্য একটি উদ্দেশ্য-নির্মিত ভিত্তি প্রদান করে।

2. নেটওয়ার্ক এবং সিস্টেম আর্কিটেকচার ডিজাইন

প্রস্তাবিত সমাধানটি একটি দ্বি-স্তরীয় মেরুদণ্ড-পাতা নেটওয়ার্ক আর্কিটেকচার গ্রহণ করে যাMCX631102AN-ADAT ইথারনেট অ্যাডাপ্টার কার্ড. পাতার স্তরে, 25GbE SFP28 সুইচগুলি ToR (টপ-অফ-র্যাক) সংযোগ প্রদান করে, প্রতিটি পাতার সুইচ 48 টি পর্যন্ত পোর্ট সমর্থন করে। মেরুদণ্ড স্তরটি উচ্চ ক্ষমতা 100GbE সুইচগুলি নিয়ে গঠিত,অ-ব্লকিং কানেক্টিভিটি প্রদান করাএই আর্কিটেকচারটি RoCE v2 (RDMA over Converged Ethernet version 2) ট্রান্সপোর্টের জন্য অপ্টিমাইজ করা হয়েছে,ক্ষতিহীন নেটওয়ার্ক অবস্থা বজায় রাখার জন্য অ্যাডাপ্টারের নেটিভ জ্যাম কন্ট্রোল মেকানিজম এবং পিএফসি (প্রাথমিক প্রবাহ নিয়ন্ত্রণ) ক্ষমতা ব্যবহার করে.

প্রতিটি গণনা এবং স্টোরেজ নোড দিয়ে সজ্জিত করা হয়MCX631102AN-ADAT ConnectX-6 Lx ডুয়াল পোর্ট 25GbE SFP28অ্যাডাপ্টার, সক্রিয়-সক্রিয় মোডে কনফিগার করা পোর্টগুলির সাথে উচ্চ প্রাপ্যতা এবং সমষ্টিগত 50GbE ব্যান্ডউইথ উভয়ই সরবরাহ করতে। হোস্ট সার্ভারটি পিসিআইই 4.0 x8 এর মাধ্যমে অ্যাডাপ্টারের সাথে ইন্টারফেস করে,সম্পূর্ণ লাইন রেট ট্রাফিক বজায় রাখার জন্য পর্যাপ্ত বাস ব্যান্ডউইথ নিশ্চিত করাসফটওয়্যার দৃষ্টিকোণ থেকে, আর্কিটেকচারটি এনভিআইডিআইএর ওএফইডি (ওপেনফ্যাব্রিক্স এন্টারপ্রাইজ ডিস্ট্রিবিউশন) ড্রাইভার স্ট্যাককে অন্তর্ভুক্ত করে, মূলধারার অপারেটিং সিস্টেম জুড়ে অনুকূলিত রোসিই সমর্থন সরবরাহ করে।স্টোরেজ নোডের জন্য, আর্কিটেকচারটি এনভিএমই-ওএফ লক্ষ্যগুলিকে সরাসরি রোকের মাধ্যমে অ্যাক্সেসযোগ্য করে তোলে, সম্পূর্ণরূপে ডাটা পাথ থেকে টিসিপি / আইপি স্তরকে বাদ দেয়।

3সমাধানের ক্ষেত্রে MCX631102AN-ADAT এর ভূমিকা এবং মূল বৈশিষ্ট্য

দ্যএনভিডিয়া মেলানক্স এমসিএক্স৬৩১১০২এএন-এডিএটিএটি কম্পিউটিং এবং স্টোরেজ ডোমেন উভয়ের জন্য ভিত্তি নেটওয়ার্ক ইন্টারফেস হিসাবে কাজ করে, সামগ্রিক আর্কিটেকচারের মধ্যে চারটি গুরুত্বপূর্ণ ভূমিকা পালন করে। প্রথমত, এটি প্রাথমিক ডেটা প্লেন ইঞ্জিন হিসাবে কাজ করে,হার্ডওয়্যার-এক্সিলারেটেড স্টিয়ারিং ইঞ্জিন ব্যবহার করে সমস্ত প্যাকেটের আকারে প্রতি পোর্টে লাইন রেট 25GbE থ্রুপুট সরবরাহ করাMCX631102AN-ADAT স্পেসিফিকেশন, যা RoCE-সক্ষম সুইচগুলির সাথে জুটিবদ্ধ হলে sub-1-microsecond অ্যাপ্লিকেশন-টু-অ্যাপ্লিকেশন বিলম্ব দেখায়।

দ্বিতীয়ত, অ্যাডাপ্টারটি আরডিএমএ ট্রান্সপোর্ট এন্ডপয়েন্ট হিসাবে কাজ করে, হোস্ট সিপিইউ থেকে মেমরি নিবন্ধকরণ, ঠিকানা অনুবাদ এবং সমাপ্তি প্রক্রিয়াকরণ সহ পুরো আরডিএমএ প্রোটোকল স্ট্যাকটি অফলোড করে।স্টোরেজ ওয়ার্কলোডের জন্য এই ডাউনলোড বিশেষভাবে প্রভাবিত হয়, NVMe-oF প্রবর্তকদের জন্য CPU ব্যবহারকে শুধুমাত্র সফটওয়্যার বাস্তবায়নের তুলনায় প্রায় 18% থেকে 3% এরও কম করে।MCX631102AN-ADAT VXLAN এবং NVGRE এর জন্য হার্ডওয়্যার ভিত্তিক ওভারলে অফলোড প্রদান করে৪. ক্লাউড-নেটিভ স্থাপনার জন্য একটি গুরুত্বপূর্ণ সুবিধা।অ্যাডাপ্টারটি SR-IOV (Single Root I/O Virtualization) সমর্থন করে, প্রতি পোর্টে সর্বোচ্চ ২৫৬ টি ভার্চুয়াল ফাংশনকে সক্ষম করে।MCX631102AN-ADAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধানএনভিআইডিআইএর জিপিইউডিরেক্ট স্টোরেজ প্রযুক্তির সাথে নির্বিঘ্নে সংহত করে, নেটওয়ার্কের মাধ্যমে জিপিইউ মেমরি এবং দূরবর্তী এনভিএম স্টোরেজ ডিভাইসের মধ্যে সরাসরি ডেটা চলাচল সক্ষম করে।

নিম্নলিখিত টেবিলে সমাধান স্থাপত্যের জন্য প্রাসঙ্গিক মূল প্রযুক্তিগত বৈশিষ্ট্যগুলি সংক্ষিপ্ত করা হয়েছেঃ

4. প্রচলিত টপোলজি সহ স্থাপন এবং স্কেলিং সুপারিশ

গ্রিনফিল্ড স্থাপনার জন্য, আমরা একটি তিন স্তরের স্কেলিং পদ্ধতির সুপারিশ করি। বেস স্তরে (ছোট স্কেলঃ 16 ¢ 32 নোড), একটি একক পাতা সুইচ ক্লাস্টার সমস্ত গণনা এবং স্টোরেজ নোড হোস্ট করতে পারে,প্রতিটি নোড MCX631102AN-ADAT দিয়ে সজ্জিত এবং উভয় পোর্ট লিঙ্ক সমষ্টির জন্য একই পাতা সুইচ সংযুক্ত. মাঝারি স্তরে (64 ′′ 128 নোড) আর্কিটেকচারটি একটি দ্বি-স্তরীয় মেরুদণ্ড-পাতা নকশা গ্রহণ করা উচিত,উভয় কর্মক্ষমতা এবং স্থিতিস্থাপকতা প্রদানের জন্য প্রতিটি নোডের দ্বৈত পোর্ট বিভিন্ন পাতা সুইচ সংযুক্ত. এন্টারপ্রাইজ স্কেলে (256+ নোড), সমাধানটি ডেডিকেটেড RoCE ফ্যাব্রিক সেগমেন্টেশন সহ একটি তিন স্তরের আর্কিটেকচার স্থাপন করার পরামর্শ দেয়,নেটওয়ার্ক স্তরে কম্পিউট ট্র্যাফিক থেকে স্টোরেজ ট্র্যাফিক বিচ্ছিন্ন, এবংMCX631102AN-ADAT সামঞ্জস্যপূর্ণএনভিআইডিআইএ স্পেকট্রাম এবং তৃতীয় পক্ষের 25GbE সুইচ উভয়ের সাথে প্রকৃতি।

ব্রাউনফিল্ড পরিবেশের জন্য, অ্যাডাপ্টারটি 10GbE SFP + অপটিক্স এবং তারের সাথে নির্বিঘ্নে পিছনে সামঞ্জস্যতা সরবরাহ করে, যা সংস্থাগুলিকে ধীরে ধীরে স্থানান্তর করতে দেয়।MCX631102AN-ADAT ডেটা শীটDell PowerEdge, HPE ProLiant, এবং Supermicro SuperServer পরিবার সহ প্রধান সার্ভার প্ল্যাটফর্মগুলির জন্য বিস্তারিত সামঞ্জস্যের ম্যাট্রিক্স সরবরাহ করে।অ্যাডাপ্টারের স্থাপনটি ফার্মওয়্যার আপডেটের সাথে সমন্বয় করা উচিত যাতে নিশ্চিত করা যায় যে সমস্ত নোডগুলি ধারাবাহিক RoCE আচরণের জন্য একই ন্যূনতম ফার্মওয়্যার সংস্করণ চালায়. আমরা সিস্টেম পুনরায় বুট জুড়ে সেটিংস বজায় রাখার জন্য অ্যাডাপ্টারের EEPROM- ভিত্তিক কনফিগারেশন স্থায়িত্ব ব্যবহার করার পরামর্শ দিই, রক্ষণাবেক্ষণ উইন্ডোর সময় অপারেশনাল ওভারহেড হ্রাস করে।

5অপারেশন, মনিটরিং, সমস্যা সমাধান এবং অপ্টিমাইজেশান

দ্যMCX631102AN-ADATএনভিআইডিআইএর এমএলএনএক্স_ওএফইডি সরঞ্জামগুলির মাধ্যমে বিস্তৃত টেলিমেট্রি এবং পরিচালনার ক্ষমতা সরবরাহ করে। পর্যবেক্ষণের জন্য, আমরা নিম্নলিখিত অপারেশনাল অনুশীলনগুলি স্থাপন করার পরামর্শ দিই। প্রথমত,হার্ডওয়্যার ভিত্তিক ফ্লো কাউন্টারগুলিকে প্রতি সারি ব্যবহারের উপর নজর রাখতে এবং হটস্পটগুলি সনাক্ত করতে সক্ষম করুনmlx5_coreকার্নেল মডিউল এবং Prometheus বা অন্যান্য TSDB সমাধান সঙ্গে একীভূত করা যেতে পারে।অ্যাডাপ্টারের PFC (Priority Flow Control) মনিটরিং ব্যবহার করে অ্যাপ্লিকেশন পারফরম্যান্সকে প্রভাবিত করার আগে নেটওয়ার্ক ঘনত্বের ঘটনাগুলি সনাক্ত এবং সংশোধন করতেতৃতীয়ত, হার্ডওয়্যারের অবনতি সনাক্ত করার জন্য অ্যাডাপ্টারের তাপমাত্রা এবং পিসিআইই লিঙ্ক স্থিতির জন্য থ্রেশহোল্ড ভিত্তিক সতর্কতা বাস্তবায়ন করা।

ত্রুটি সমাধানের জন্য, অ্যাডাপ্টারের উন্নত ডায়াগনস্টিকস ✓ প্রতি পোর্ট লুপব্যাক পরীক্ষা, লিঙ্ক প্রশিক্ষণ লগ এবং বিঘ্ন সমন্বয় পরিসংখ্যান ✓ পারফরম্যান্স সমস্যাগুলিতে বিস্তারিত দৃশ্যমানতা সরবরাহ করে.আমরা প্রাথমিক স্থাপনার সময় স্বাভাবিক অপারেশনের একটি বেসলাইন স্থাপন করার পরামর্শ দিচ্ছি, যেমন গড় বিলম্ব, থ্রুপুট, এবং সিপিইউ ব্যবহারের মতো মূল মেট্রিকগুলি ক্যাপচার করে,ভবিষ্যতে তুলনা করার জন্য একটি রেফারেন্স হিসাবে পরিবেশন করা. মূল্যায়নের সময়MCX631102AN-ADAT দামমালিকানার ক্ষেত্রে, সংস্থাগুলি কম CPU খরচ এবং সরলীকৃত ত্রুটি সমাধানের কর্মপ্রবাহ থেকে প্রাপ্ত অপারেশনাল সঞ্চয়কে অ্যাকাউন্ট করা উচিত।

অপ্টিমাইজেশান কৌশলMCX631102AN-ADAT ইথারনেট অ্যাডাপ্টার কার্ডহোস্ট কনফিগারেশনে, পিসিআইইই সর্বোচ্চ পে-লোড-আকারকে 512 বাইটে সেট করুন এবং বিলম্ব এবং সিপিইউ দক্ষতা ভারসাম্য বজায় রাখার জন্য বিচ্ছিন্নতা মডারেশন সক্ষম করুন। নেটওয়ার্কে,সমস্ত সুইচ এবং অ্যাডাপ্টার জুড়ে PFC অগ্রাধিকারগুলিকে ধারাবাহিকভাবে কনফিগার করুন আমরা RoCE ট্র্যাফিকের জন্য অগ্রাধিকার 3 এবং পরিচালনার ট্র্যাফিকের জন্য অগ্রাধিকার 0 নিবেদিত করার পরামর্শ দিই. অ্যাপ্লিকেশন স্তরে, ওয়ার্কলোড বৈশিষ্ট্যগুলির সাথে RDMA সারি গভীরতা সারিবদ্ধ করুনঃ গভীর সারিগুলি থ্রুপুট-সমৃদ্ধ স্টোরেজ ওয়ার্কলোডগুলিকে উপকৃত করে,যখন অগভীর সারি সংবেদনশীল লেনদেন প্রক্রিয়াকরণের জন্য বিলম্ব হ্রাস. বিস্তারিতMCX631102AN-ADAT স্পেসিফিকেশনবিভিন্ন অপারেটিং সিস্টেম প্ল্যাটফর্মে এই পরামিতিগুলিকে সামঞ্জস্য করার জন্য নির্দিষ্ট নির্দেশিকা প্রদান করা।

6সংক্ষিপ্ত বিবরণ এবং মূল্য মূল্যায়ন

দ্যমেলানক্স (এনভিআইডিআইএ মেলানক্স) MCX631102AN-ADATএটি একটি আর্কিটেকচারাল সমাধান প্রদান করে যা আধুনিক ডেটা সেন্টার নেটওয়ার্কিংয়ের মৌলিক চ্যালেঞ্জগুলি মোকাবেলা করেঃ মাইক্রোসেকেন্ড স্কেল লেটেন্সি সরবরাহ, হার্ডওয়্যার-গতিসম্পন্ন RDMA পরিবহন,এবং হোস্ট সিপিইউ ওভারহেড হ্রাস করার সময় ধারাবাহিক 25GbE থ্র্যাফট. কম্পিউটিং, স্টোরেজ এবং এআই ওয়ার্কলোডের জন্য একটি ইউনিফাইড নেটওয়ার্ক ইন্টারফেস হিসাবে কাজ করে, অ্যাডাপ্টারটি কর্মক্ষমতা বাড়ানোর সময় অবকাঠামোকে সহজ করে তোলে।MCX631102AN-ADAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধাননেটওয়ার্কের সাথে সম্পর্কিত সিপিইউ খরচ প্রায় ৮০% হ্রাস করে, স্টোরেজ অ্যাক্সেসের বিলম্ব ৮০% এরও বেশি বৃদ্ধি করে,এবং হার্ডওয়্যার-ভিত্তিক ঘনত্ব পরিচালনার মাধ্যমে পরিবর্তিত লোড অবস্থার অধীনে পূর্বাভাস কার্যকারিতা প্রদান করে.

ব্যবসায়িক মূল্যের দৃষ্টিকোণ থেকে,অ্যাডাপ্টারটি সংস্থাগুলিকে বিদ্যমান 25GbE সুইচ বিনিয়োগকে সর্বাধিকতর করতে সক্ষম করে যা পূর্বে 40GbE বা 100GbE সমাধানগুলির সাথে কেবলমাত্র অর্জনযোগ্য পারফরম্যান্স সরবরাহ করে.বিক্রির জন্য MCX631102AN-ADATমূল্যায়নটি 12-18 মাসের মধ্যে ধারাবাহিকভাবে ইতিবাচক ROI প্রদর্শন করে, কম সার্ভার গণনার প্রয়োজনীয়তার কারণে (প্রতি নোডের উচ্চতর দক্ষতার কারণে) এবং কম অপারেটিং ওভারহেডের কারণে।ডেটা সেন্টার নেটওয়ার্ক নির্মাণ বা আধুনিকীকরণের জন্য সংস্থাগুলির জন্য, MCX631102AN-ADAT কেবলমাত্র একটি ধারাবাহিক আপগ্রেড নয়, নেটওয়ার্কিং ফাউন্ডেশনের দক্ষতার মৌলিক উন্নতি।