প্রযুক্তিগত সমাধান গাইডঃ এনভিআইডিআইএ মেলানক্স এমসিএক্স 623106 এএন-সিডিএটি আরডিএমএ / রোসিই লো-লেটেন্সি এবং থ্রুপুট অপ্টিমাইজেশনের জন্য

আধুনিক ডেটা সেন্টার আর্কিটেকচারগুলি অ্যাপ্লিকেশন ওয়ার্কলোডগুলির জন্য সিপিইউ দক্ষতা বজায় রেখে কম বিলম্ব এবং উচ্চতর থ্রুপুট সরবরাহ করার জন্য ধ্রুবক চাপের মধ্যে রয়েছে।তার অন্তর্নিহিত প্রোটোকল ওভারহেড সঙ্গে, প্রায়শই উচ্চ-কার্যকারিতা কম্পিউটিং (এইচপিসি), কৃত্রিম বুদ্ধিমত্তা (এআই) এবং আর্থিক পরিষেবার চাহিদা পূরণ করতে ব্যর্থ হয়।এই টেকনিক্যাল হোয়াইট পেপারটি একটি বিস্তৃত সমাধান উপস্থাপন করেছে যাMCX623106AN-CDATসার্ভার অ্যাডাপ্টার, কনভার্জেড ইথারনেটের (RoCE) উপর RDMA বাস্তবায়নের উপর দৃষ্টি নিবদ্ধ করে লেটেন্সি নাটকীয়ভাবে হ্রাস এবং সার্ভার থ্রুপুট বৃদ্ধি। নেটওয়ার্ক স্থপতি, প্রাক বিক্রয় প্রকৌশলী,এবং অপারেশন ম্যানেজার, এই নথিতে এই উন্নত প্রযুক্তি ব্যবহারের জন্য আর্কিটেকচার, স্থাপনার কৌশল এবং অপারেশনাল সেরা অনুশীলনগুলি বর্ণনা করা হয়েছে।

1. প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

এই সমাধানের প্রধান চ্যালেঞ্জ হল কার্নেল ভিত্তিক নেটওয়ার্ক স্ট্যাক দ্বারা আরোপিত "ডেটা ট্যাক্স"। উচ্চ-ফ্রিকোয়েন্সি ডেটা এক্সচেঞ্জের প্রয়োজনের দৃশ্যকল্পগুলিতে যেমন বিতরণকৃত স্টোরেজ,মেশিন লার্নিং প্রশিক্ষণ, বা রিয়েল টাইম বিশ্লেষণ ✓ পিসিইউ চক্রগুলি প্যাকেট প্রসেসিং, চেকসাম গণনা এবং প্রসঙ্গ সুইচগুলিতে নষ্ট হয়। আধুনিকীকরণ অবকাঠামোর মূল প্রয়োজনীয়তাগুলির মধ্যে রয়েছেঃ

• অতি-নিম্ন বিলম্বঃএন্ড-টু-এন্ড অ্যাপ্লিকেশন লেটেন্সিকে ন্যূনতম করা উচিত, আদর্শভাবে ইন্টার-সার্ভার যোগাযোগের জন্য 10 মাইক্রোসেকেন্ডের মধ্যে।
• সিপিইউ অফলোডঃনেটওয়ার্ক ফ্যাব্রিককে ডেটা চলাচল পরিচালনা করতে হবে, কম্পিউটার-নিবিড় কাজগুলির জন্য প্রসেসর কোরকে মুক্ত করতে হবে।
• স্কেলযোগ্যতাঃআর্কিটেকচারের একটি সমতল, উচ্চ-ব্যান্ডউইথ ফ্যাব্রিককে সমর্থন করতে হবে যা কর্মক্ষমতা হ্রাস ছাড়াই কয়েক ডজন থেকে হাজার হাজার নোড থেকে স্কেল করতে পারে।
• স্ট্যান্ডার্ড-ভিত্তিকঃএই সমাধানটি উন্নত ক্ষমতা প্রবর্তন করার সময় বিনিয়োগ রক্ষা করার জন্য বিদ্যমান ইথারনেট অবকাঠামোকে কাজে লাগাতে হবে।

দ্যএনভিডিয়া মেলানক্স এমসিএক্স৬২৩১০৬এএন-সিডিএটিএই কঠোর প্রয়োজনীয়তা পূরণের জন্য মৌলিক উপাদান হিসাবে আবির্ভূত হয়েছে।MCX623106AN-CDAT ইথারনেট অ্যাডাপ্টার কার্ড, এটি স্ট্যান্ডার্ড ইথারনেট নেটওয়ার্কের মাধ্যমে RDMA সক্ষম করার জন্য বিশেষভাবে ডিজাইন করা হয়েছে।

2. নেটওয়ার্ক আর্কিটেকচার ডিজাইন

প্রস্তাবিত আর্কিটেকচারটি হ'ল ক্ষতিহীন RoCE পরিবেশের জন্য ডিজাইন করা একটি পাতা-পিঠের ফ্যাব্রিক। The key principles include a non-blocking core with sufficient oversubscription ratios and the enablement of Priority Flow Control (PFC) and Explicit Congestion Notification (ECN) across all network devices. এই নকশাটি একটি ইউনিফাইড, উচ্চ-গতির ইথারনেট ফ্যাব্রিকের উপর কম্পিউট, স্টোরেজ এবং ম্যানেজমেন্ট ট্র্যাফিককে একীভূত করে।

এই নকশার কেন্দ্রস্থলে সার্ভার নোড রয়েছে, যার প্রত্যেকটিতেMCX623106AN-CDAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ড. এই অ্যাডাপ্টারটি ওয়ার্কলোড ঘনত্বের উপর নির্ভর করে 25GbE বা 100GbE লিঙ্কগুলির মাধ্যমে পাতার সুইচগুলিতে সংযুক্ত হয়।কম বিলম্বের যেকোনো-থেকে-কোনও পথ নিশ্চিত করাস্টোরেজ টার্গেট, যেমন NVMe-oF অ্যারেগুলিও সামঞ্জস্যপূর্ণ অ্যাডাপ্টার ব্যবহার করে একই ফ্যাব্রিকের সাথে সংযুক্ত থাকে, যা কম্পিউট নোডগুলি থেকে সরাসরি মেমরি অ্যাক্সেস সক্ষম করে।

3সমাধানের ক্ষেত্রে এনভিআইডিআইএ মেলানোক্স এমসিএক্স 623106 এএন-সিডিএটির ভূমিকা

দ্যMCX623106AN-CDATএটি কেবল একটি নেটওয়ার্ক ইন্টারফেস নয়; এটি একটি পরিশীলিত ডেটা প্রসেসিং ইউনিট (ডিপিইউ) পূর্বসূরী যা আরডিএমএ যোগাযোগের সমস্ত দিক পরিচালনা করে। এর ভূমিকা বহুমুখীঃ

• RDMA/RoCE ইঞ্জিনঃঅ্যাডাপ্টার হার্ডওয়্যারটি RoCEv2 প্রোটোকলটি বাস্তবায়ন করে, ইউডিপি / আইপি এর মাধ্যমে আরডিএমএ লেনদেনকে ক্যাপসুল করে। এটি হোস্ট সিপিইউ জড়িত না করেই রাউটেবল, নিম্ন-ল্যাটেনসি যোগাযোগের অনুমতি দেয়।
• ট্রান্সপোর্ট অফলোডঃএটি সংযোগ স্থাপনের ব্যবস্থা করে, প্যাকেটের ক্রম এবং নির্ভরযোগ্য পরিবহন, অ্যাপ্লিকেশনগুলিতে একটি সহজ মেমরি-টু-মেমরি ইন্টারফেস উপস্থাপন করে।
• PCIe Gen4 ইন্টারফেসঃএর উচ্চ-ব্যান্ডউইথ পিসিআইই ৪.০ হোস্ট ইন্টারফেসের সাহায্যে অ্যাডাপ্টারটি নিশ্চিত করে যে নেটওয়ার্ক ডেটা লাইন রেটে সিস্টেম মেমরিতে এবং থেকে সরানো যেতে পারে, অভ্যন্তরীণ বোতল ঘাটতি প্রতিরোধ করে। বিস্তারিতMCX623106AN-CDAT স্পেসিফিকেশনউচ্চ গতির লিঙ্কগুলি সম্পূর্ণরূপে পরিপূর্ণ করার ক্ষমতা নিশ্চিত করুন।

4. মোতায়েন ও স্কেলিং সুপারিশ

সফল বাস্তবায়নের জন্য নেটওয়ার্ক ফ্যাব্রিক এবং শেষ হোস্ট উভয়ের সাবধান কনফিগারেশন প্রয়োজন। ধাপে ধাপে বাস্তবায়নের জন্য নিম্নলিখিত পদক্ষেপগুলি সুপারিশ করা হয়ঃ

• ফ্যাব্রিক প্রস্তুতকরণঃসার্ভার স্থাপন করার আগে, ক্ষতিহীন RoCE এর জন্য পথের সমস্ত সুইচ কনফিগার করুন। এর মধ্যে রয়েছে RoCE ট্র্যাফিক ক্লাসের জন্য PFC (802.1Qbb) সেটআপ করা এবং ECN (802.0) সক্ষম করা।1Qau) যানজট ব্যবস্থাপনার জন্য.
• ড্রাইভার এবং ফার্মওয়্যার ইনস্টলেশনঃসর্বশেষ NVIDIA WinOF-2 বা MLNX_OFED ড্রাইভার ইনস্টল করুনMCX623106AN-CDAT. ফার্মওয়্যারের সংস্করণে উল্লেখিত সংস্করণের সাথে মেলে তা যাচাই করুনMCX623106AN-CDAT ডেটা শীট.
• সার্ভিসের গুণমান (QoS) কনফিগারেশনঃRoCE ট্র্যাফিককে অগ্রাধিকার দেওয়ার জন্য QoS নীতিগুলি বাস্তবায়ন করুন (উদাহরণস্বরূপ, DSCP মানগুলি) এবং নিশ্চিত করুন যে এটি নিয়মিত TCP ট্র্যাফিকের সাথে লড়াই করে না।একটি সাধারণ টপোলজিতে সর্বোত্তম পারফরম্যান্সের জন্য একই RoCE ডোমেনে স্টোরেজ এবং কম্পিউট নোডগুলিকে গ্রুপ করা জড়িত.
• স্কেলেবিলিটি বিবেচনাঃফ্যাব্রিক বৃদ্ধি হিসাবে, "RoCE অভিযোজিত রাউটিং" মত অ্যাডাপ্টারের উন্নত বৈশিষ্ট্য ব্যবহার একাধিক পাথ জুড়ে কম বিলম্ব বজায় রাখার জন্য. নিশ্চিত করুন যে সব নতুন নোড হয়MCX623106AN-CDAT সামঞ্জস্যপূর্ণবিদ্যমান সুইচ অবকাঠামোর সাথে।

5অপারেশনাল মনিটরিং, সমস্যা সমাধান এবং অপ্টিমাইজেশান

একটি RDMA ফ্যাব্রিক বজায় রাখার জন্য নির্দিষ্ট সরঞ্জাম এবং অনুশীলন প্রয়োজন। এনভিআইডিএ পরিচালনা এবং পর্যবেক্ষণের জন্য একটি বিস্তৃত স্যুট সরবরাহ করেMCX623106AN-CDAT.

• মনিটরিং সরঞ্জামঃলিঙ্ক অখণ্ডতা, তাপমাত্রা এবং ত্রুটি কাউন্টারগুলি পরীক্ষা করতে এনভিআইডিআইএর মেলানক্স এনইও বা 'এমএলএক্সলিঙ্ক' এবং 'এমএলএক্স কনফিগ' এর মতো স্ট্যান্ডার্ড সরঞ্জামগুলি ব্যবহার করুন।এসএনএমপি পোলিং RoCE ট্র্যাফিকের জন্য নির্দিষ্ট ইন্টারফেস পরিসংখ্যান ট্র্যাক করতে পারে.
• মূল পরিমাপঃপিএফসি বিরতি ফ্রেমগুলির জন্য মনিটর করুন, যা ফ্যাব্রিকের মধ্যে বাফারের চাপ নির্দেশ করে। উচ্চ বিরতি গণনা বিলম্বিত মূল্যবৃদ্ধির দিকে পরিচালিত করতে পারে এবং বাফারের আকার বা ইসিএন থ্রেশহোল্ডের সমন্বয় প্রয়োজন।
• ফার্মওয়্যার এবং ড্রাইভার আপডেটঃনিয়মিত অ্যাডাপ্টারের ফার্মওয়্যারের আপডেট পরীক্ষা করুন। পারফরম্যান্স অপ্টিমাইজেশন এবং নতুন বৈশিষ্ট্য প্রায়ই যোগ করা হয়, এই ক্ষমতা উন্নতMCX623106AN-CDAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধান.
• পারফরম্যান্স টিউনিংঃনির্দিষ্ট অ্যাপ্লিকেশন প্রোফাইলের উপর ভিত্তি করে বিলম্ব এবং সিপিইউ ব্যবহারের ভারসাম্য বজায় রাখতে বিরতি মডারেশন এবং সমন্বয় সেটিংসের মতো পরামিতিগুলি সামঞ্জস্য করুন।

6সংক্ষিপ্ত বিবরণ এবং মূল্য মূল্যায়ন

এই প্রযুক্তিগত সমাধানটিএনভিডিয়া মেলানক্স এমসিএক্স৬২৩১০৬এএন-সিডিএটিএটি RDMA/RoCE-ভিত্তিক কম লেটেন্সির যোগাযোগ এবং সার্ভারের আউটপুট উল্লেখযোগ্যভাবে বাড়ানোর জন্য একটি স্পষ্ট এবং কার্যকর পথ প্রদান করে।নেটওয়ার্ক প্রসেসিংকে ডেডিকেটেড হার্ডওয়্যারে অফলোড করে এবং সরাসরি মেমরি অ্যাক্সেস সক্ষম করে, সংস্থাগুলি তাদের অ্যাপ্লিকেশনগুলির পূর্ণ সম্ভাবনা প্রকাশ করতে পারে।MCX623106AN-CDAT দামসিপিইউ চক্র সংরক্ষিত এবং কর্মক্ষমতা লাভের তুলনায়, বিনিয়োগের রিটার্ন বাধ্যতামূলক।বিক্রির জন্য MCX623106AN-CDATএই অ্যাডাপ্টারটি পরবর্তী প্রজন্মের উচ্চ দক্ষতাসম্পন্ন ডেটা সেন্টারগুলির জন্য একটি গুরুত্বপূর্ণ বিল্ডিং ব্লক।