অ্যাপ্লিকেশন প্র্যাকটিস: NVIDIA Mellanox MCX631102AN-ADAT – RDMA/RoCE লো-ল্যাটেন্সি ট্রান্সপোর্ট ও সার্ভার থ্রুপুট এনহ্যান্সমেন্ট

বিতরণকৃত স্টোরেজ, উচ্চ-পারফরম্যান্স কম্পিউটিং এবং এআই প্রশিক্ষণ ক্লাস্টারে, নেটওয়ার্ক লেটেন্সি এবং সিপিইউ ওভারহেড সার্ভারের কর্মক্ষমতা সীমাবদ্ধ করার প্রাথমিক বোতল ঘা হয়ে উঠেছে।একটি ক্লাউড সার্ভিস প্রদানকারী সম্প্রতি তার NVMe-oF স্টোরেজ ব্যাকএন্ডকে আপগ্রেড করেছেএনভিডিয়া মেলানক্স এমসিএক্স৬৩১১০২এএন-এডিএটিকনভার্জেড ইথারনেটের (RoCEv2) উপর আরডিএমএ স্থাপন করে তারা শেষ থেকে শেষ পর্যন্ত নিম্ন-ল্যাটেনসি পরিবহন এবং উল্লেখযোগ্য সার্ভার থ্রুপুট লাভ অর্জন করেছে।এই কেস স্টাডিতে পরীক্ষা করা হয়েছে যে কীভাবে অ্যাডাপ্টারটি একটি উত্পাদন পরিবেশে কাজ করে.

পটভূমি ও চ্যালেঞ্জঃ টিসিপি/আইপি প্রোটোকল স্ট্যাক বোতল ঘা

প্রদানকারীর বিদ্যমান 25GbE অবকাঠামো ঐতিহ্যগত TCP/IP সফটওয়্যার স্ট্যাক ব্যবহার করে স্টোরেজ ট্র্যাফিক পরিচালনা করে। NVMe/TCP দৃশ্যকল্পে,প্যাকেট ইনক্যাপসুলেশন এবং ডি-ইনক্যাপসুলেশনের জন্য সিপিইউ ব্যবহার 40% অতিক্রম করেছে, যার ফলে স্টোরেজ লেটেন্সি 200μs এর বেশি এবং অ্যাপ্লিকেশন সার্ভারে কম্পিউটিং ক্ষমতা মারাত্মকভাবে হ্রাস পেয়েছে। আর্কিটেক্টদের জরুরিভাবে এমন একটি সমাধানের প্রয়োজন ছিল যা কার্নেল নেটওয়ার্ক স্ট্যাককে বাইপাস করতে পারে,সিপিইউ হস্তক্ষেপ হ্রাস, এবং দ্বৈত 25GbE লিঙ্কগুলিতে লাইন-রেট থ্রুপুট বজায় রাখা। একাধিক বিকল্প মূল্যায়ন করার পরে, তারাMCX631102AN-ADAT ConnectX-6 Lx ডুয়াল পোর্ট 25GbE SFP28তাদের স্টোরেজ ফ্যাব্রিক সংস্কারের জন্য মূল হার্ডওয়্যার হিসাবে।

সমাধান ও বাস্তবায়নঃ হার্ডওয়্যার অফলোড সহ RDMA/RoCEv2

এই বাস্তবায়নটি সমস্ত স্টোরেজ-মুখী সার্ভারকেMCX631102AN-ADAT ইথারনেট অ্যাডাপ্টার কার্ড, RoCEv2 ক্ষতিহীন মোডে চলমান (ইসিএন এবং পিএফসি ব্যবহার করে) ।

• এসআর-আইওভি সক্ষম করা এবং হাইপারভিজার নেটওয়ার্ক স্ট্যাককে বাইপাস করে স্টোরেজ ভার্চুয়াল মেশিনে ভার্চুয়াল ফাংশন (ভিএফ) নিবেদিত করা
• আরডিএমএ ট্রান্সপোর্টের সাথে এনভিএমই ওভার ফ্যাব্রিক্স (এনভিএমই-ওএফ) কনফিগার করা, সম্পূর্ণরূপে টিসিপি ওভারহেড দূর করা
• লিফ-স্পিন টপোলজি জুড়ে ক্ষতিহীন 25GbE RoCE ট্র্যাফিকের জন্য টিউনিং সুইচ বাফার থ্রেশহোল্ড

দ্যMCX631102AN-ADAT স্পেসিফিকেশনহার্ডওয়্যার টাইমস্ট্যাম্প, ডায়নামিক সংযোগ পরিবহন (ডিসিটি) এবং ভেক্টরাইজড রিসিভ ইঞ্জিন সহ, পূর্বাভাসযোগ্য সাব-মাইক্রোসেকেন্ড লেটেন্সি এমনকি 50Gbps সামগ্রিক লোডের অধীনেও নিশ্চিত করার জন্য সম্পূর্ণরূপে ব্যবহার করা হয়েছিল.

পরিমাপকৃত পারফরম্যান্স লাভ এবং অপারেটিং বেনিফিট

দেশান্তরিত হওয়ার পরএনভিডিয়া মেলানক্স এমসিএক্স৬৩১১০২এএন-এডিএটিনিম্নলিখিত পরিমাপগুলি ধরা হয়েছেঃ

প্রকৌশলীরা উল্লেখ করেছেন যেMCX631102AN-ADAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধানরিয়েল-টাইম বিশ্লেষণ ডাটাবেসের জন্য উপযুক্ত পূর্বাভাসযোগ্য লেটেনসি সরবরাহ করা হয়েছে। অতিরিক্তভাবে, মুক্ত সিপিইউ কোরগুলি অ্যাপ্লিকেশন ওয়ার্কলোডগুলিতে পুনরায় বরাদ্দ করা হয়েছে,একই শারীরিক সার্ভারে মোট ভাড়াটে ঘনত্ব প্রায় 24% বৃদ্ধি.

সামঞ্জস্যতা এবং বাস্তুতন্ত্রের সংহতকরণ

যখন স্থাপনার সম্প্রসারণ, অপারেশন টিম যাচাই যে অ্যাডাপ্টার হয়MCX631102AN-ADAT সামঞ্জস্যপূর্ণতাদের বিদ্যমান এনভিআইডিআইএ স্পেকট্রাম সুইচগুলির সাথে (ক্ষতিহীন রোসিই প্রোফাইল), পাশাপাশি ডিসিবিএক্স কনফিগারেশনের সাথে আরিস্তা এবং সিসকো থেকে তৃতীয় পক্ষের টর সুইচগুলি।MCX631102AN-ADAT ডেটা শীটপ্রাথমিক বাল্ক অনুসন্ধানগুলি নিশ্চিত করেছে যেMCX631102AN-ADAT দামএকই শ্রেণীর স্মার্টএনআইসিগুলির তুলনায় প্রতিযোগিতামূলক রয়ে গেছে, একাধিক বিতরণকারী তালিকাভুক্তবিক্রির জন্য MCX631102AN-ADATস্ট্যান্ডার্ড ভলিউম চুক্তির অধীনে।

সংক্ষিপ্ত বিবরণ এবং প্রত্যাশা

উত্পাদন কেস স্পষ্টভাবে দেখায় যেMCX631102AN-ADATএটি একটি সম্পূর্ণ 100GbE অবকাঠামো overhaul প্রয়োজন ছাড়া RDMA- ত্বরিত ফ্যাব্রিক TCP- আবদ্ধ স্টোরেজ নেটওয়ার্ক থেকে একটি মৌলিক স্থানান্তর সক্ষম করে।MCX631102AN-ADAT ConnectX-6 Lx ডুয়াল পোর্ট 25GbE SFP28ডিজাইন, সংস্থাগুলি উল্লেখযোগ্য সিপিইউ সংস্থান পুনরুদ্ধার করার সময় বিলম্ব-সংবেদনশীল ওয়ার্কলোডগুলির জন্য কার্যকর থ্রুপুট দ্বিগুণ করতে পারে।একই বাস্তবায়ন প্যাটার্ন বিতরণকৃত মেশিন লার্নিং ফ্রেমওয়ার্ক (এনসিসিএল ওভার রোসিই) এবং মাইক্রোসার্ভিস ভিত্তিক স্টেটফুল অ্যাপ্লিকেশনগুলিতে প্রসারিত হবে. 25GbE আপগ্রেড মূল্যায়ন স্থাপত্যবিদদের জন্য,এনভিডিয়া মেলানক্স এমসিএক্স৬৩১১০২এএন-এডিএটিএটি একটি পরীক্ষিত, উৎপাদন-শক্ত বিল্ডিং ব্লক হিসেবে দাঁড়িয়েছে উচ্চ পারফরম্যান্স, কম লেটেন্সি ডেটা সেন্টার নেটওয়ার্কের জন্য।