NVIDIA Mellanox MCX4121A-ACAT সার্ভার অ্যাডাপ্টার অ্যাকশনেঃ RDMA/RoCE লো-লেটেন্সি পারফরম্যান্স আনলক করা

NVIDIA Mellanox MCX4121A-ACAT সার্ভার অ্যাডাপ্টার অ্যাকশনেঃ RDMA/RoCE লো-লেটেন্সি পারফরম্যান্স আনলক করা এবং সার্ভারের থ্রুপুট বাড়ানো

মডেলঃMCX4121A-ACAT♪ ব্র্যান্ডঃ এনভিডিয়া মেলানোক্স ♪ ক্যাটাগরিঃ ২৫ গিগাবাইট সার্ভার অ্যাডাপ্টার ♪ মূল ক্ষমতাঃ আরডিএমএ/আরওসিই লো-লেটেন্সি ট্রান্সপোর্ট ও সার্ভার থ্রুপুট অপ্টিমাইজেশান

পটভূমি ও চ্যালেঞ্জঃ বিতরণকৃত স্টোরেজ এবং এআই ইনফারেন্সে নেটওয়ার্ক বোতল ঘা

একটি বড় ইন্টারনেট কোম্পানির অবকাঠামো দলের জন্য,২০২৫ সালের শুরুর দিকে পরিচালিত একটি ব্যাপক পারফরম্যান্স মূল্যায়নে এমন গুরুত্বপূর্ণ নেটওয়ার্ক বোতল ঘাঁটি প্রকাশিত হয়েছিল যা নীরবে অপারেশনকে প্রভাবিত করেছিলকোম্পানির এআই ইনফারেন্স ক্লাস্টার এবং ডিস্ট্রিবিউটেড স্টোরেজ সিস্টেম উভয়ই 10GbE ইথারনেটের উপর নির্ভর করে।যা মডেল লোডিং এবং ডেটা সিঙ্ক্রোনাইজেশন পর্যায়ে ধারাবাহিকভাবে উচ্চ বিলম্ব এবং অত্যধিক সিপিইউ ব্যবহার প্রদর্শন করেএই পরিস্থিতি বিশেষ করে NVMe-oF স্টোরেজ অ্যাক্সেস দৃশ্যকল্পগুলিতে তীব্র ছিল যেখানে প্রচলিত TCP/IP স্ট্যাকের কনটেক্সট স্যুইচিং এবং বিরতি ওভারহেড স্টোরেজ কর্মক্ষমতাকে গুরুতরভাবে সীমাবদ্ধ করে।,জিপিইউ ব্যবহারের হার প্রায় ৬৫%।তাদের ব্যাক-এন্ড স্টোরেজ এবং এআই এক্সিলারেটরগুলির পূর্ণ সম্ভাবনাকে উন্মুক্ত করার জন্য নিম্ন-ল্যাটেনসি সার্ভার সংযোগ সমাধান.

বিস্তৃত গবেষণার পরে, দলটি তাদের মনোযোগ 25GbE ইথারনেট অ্যাডাপ্টারে স্থানান্তরিত করে, বিশেষত RDMA (রিমোট ডাইরেক্ট মেমরি অ্যাক্সেস) এবং RoCEv2 (কনভার্জেড ইথারনেট v2 এর উপর RDMA) সমর্থন করে।RoCEv2 অপারেটিং সিস্টেম কার্নেল বাইপাস করার প্রতিশ্রুতি দেয় এবং CPU- বাইপাসড ডেটা ট্রান্সফার সক্ষম করে, তত্ত্বগতভাবে বিলম্ব এবং সিপিইউ ওভারহেড ব্যাপক হ্রাস প্রদান।দক্ষ RDMA পরিবহন অর্জন অ্যাডাপ্টারের হার্ডওয়্যার অফলোড ক্ষমতা এবং শেষ থেকে শেষ যানজট নিয়ন্ত্রণ প্রক্রিয়াগুলিতে কঠোর চাহিদা রাখেএই প্রেক্ষাপটটিএনভিডিয়া মেলানোক্স এমসিএক্স ৪১২১এ-এসিএটিমূল্যায়ন পাইপলাইনে প্রবেশ করতে।

সমাধান ও বাস্তবায়নঃ MCX4121A-ACAT এর চারপাশে একটি RDMA- অপ্টিমাইজড স্টোরেজ নেটওয়ার্ক তৈরি করা

এর বিস্তারিত পর্যালোচনা করার পরMCX4121A-ACAT ডেটা শীটএবং তার বৈধতাMCX4121A-ACAT স্পেসিফিকেশনঅভ্যন্তরীণ বেঞ্চমার্কগুলির বিরুদ্ধে, আর্কিটেকচার টিম এআই ইনফারেন্স নোড এবং স্টোরেজ ফ্রন্ট-এন্ড সার্ভার উভয় জুড়ে অ্যাডাপ্টার স্থাপন করার সিদ্ধান্ত নিয়েছে।MCX4121A-ACAT ConnectX-4 Lx ডুয়াল পোর্ট 25GbE SFP28ডিজাইনটি প্রতিটি সার্ভারকে দুটি অপটিক্যাল ফাইবারের মাধ্যমে পাতার মেরুদণ্ডের ফ্যাব্রিকের দুটি ভিন্ন সুইচে সংযোগ করতে সক্ষম করে, লিঙ্ক রিডান্ডান্সি এবং লোড ব্যালেন্সিং সরবরাহ করে।

বাস্তবায়ন কৌশলটি তিনটি মূল ধাপ অনুসরণ করেছিলঃ

• হার্ডওয়্যার ইনস্টলেশন এবং সামঞ্জস্যতা যাচাইকরণঃদলটি প্রথমে যাচাই করেMCX4121A-ACAT সামঞ্জস্যপূর্ণবিদ্যমান x86 এবং এআরএম ভিত্তিক হোস্টগুলির সাথে নির্বিঘ্নে সংহতকরণ নিশ্চিত করার জন্য সার্ভার তালিকা। প্রতিটি অ্যাডাপ্টার একটি পিসিআইই 3.0 এক্স 8 স্লটে ইনস্টল করা হয়েছিল, তারপরে অফিসিয়াল এনভিআইডিআইএ উত্স থেকে ড্রাইভার ইনস্টলেশন।
• লসলেস RoCEv2 নেটওয়ার্ক কনফিগারেশনঃRoCEv2-সমর্থিত সুইচিং পরিকাঠামোতে PFC (Priority Flow Control) এবং ECN (Explicit Congestion Notification) সক্ষম করা হয়েছে।ডিসিবিএক্স (ডেটা সেন্টার ব্রিজিং এক্সচেঞ্জ) প্রোটোকলগুলি ইথারনেটের মাধ্যমে আরডিএমএ ট্র্যাফিকের জন্য ক্ষতিহীন পরিবহন নিশ্চিত করার জন্য কনফিগার করা হয়েছিল, একটি স্থিতিশীল ভিত্তি প্রদান করেMCX4121A-ACAT ইথারনেট অ্যাডাপ্টার কার্ডআরডিএমএ-র পূর্ণ সক্ষমতা অর্জনের জন্য।
• স্টোরেজ প্রোটোকল স্ট্যাক অপ্টিমাইজেশনঃএনভিএম-ওএফ লক্ষ্যগুলি স্টোরেজ সার্ভারে স্থাপন করা হয়েছিল, যখন এনভিএম-ওএফ সূচনাগুলি অ্যাপ্লিকেশন সার্ভারে কনফিগার করা হয়েছিল। অ্যাডাপ্টারের হার্ডওয়্যার অফলোড ইঞ্জিনগুলিকে কাজে লাগিয়ে,সমস্ত স্টোরেজ I/O অনুরোধ RDMA অপারেশন হিসাবে encapsulated ছিল, কার্যকরভাবে কার্নেল নেটওয়ার্ক স্ট্যাক বাইপাস করে।

পুরো প্রক্রিয়ায়,এনভিডিয়া মেলানোক্স এমসিএক্স ৪১২১এ-এসিএটিএটি সত্যিকারের প্লাগ-এন্ড-প্লে সরলতা প্রদর্শন করেছে, যা মূলত দুই সপ্তাহের সংহতকরণের প্রচেষ্টা হিসাবে অনুমান করা হয়েছিল তা মাত্র তিন দিনে সংকুচিত করেছে।

পরিমাপযোগ্য ফলাফলঃ উল্লেখযোগ্য পারফরম্যান্স লাভ এবং সম্পদ মুক্ত

উৎপাদন কার্যক্রমের এক মাসের পর, দলটি মূল পরিমাপগুলির মধ্যে উল্লেখযোগ্য উন্নতি নথিভুক্ত করেছে, যা স্পষ্টভাবে প্রদর্শন করে যে পণ্যটি দ্বারা সরবরাহ করা মূল্যMCX4121A-ACAT:

অপরিশোধিত কর্মক্ষমতা পরিসংখ্যান ছাড়াও, দলটি ROI মূল্যায়ন করে যখনMCX4121A-ACAT দামমোট মালিকানা ব্যয়ের তুলনায়। সিপিইউ ব্যবহারের উল্লেখযোগ্য হ্রাস বেশ কয়েকটি সার্ভারকে পরিষেবাতে থাকতে দেয় যা পূর্বে ক্ষমতা আপগ্রেডের জন্য নির্ধারিত ছিল,সরাসরি হার্ডওয়্যার সংগ্রহের খরচ বাঁচানো. অতিরিক্তভাবে, হ্রাসিত বিলম্ব অনলাইন অনুমান পরিষেবা প্রতিক্রিয়া সময় 120ms থেকে 45ms উন্নত, একটি উল্লেখযোগ্যভাবে ভাল শেষ ব্যবহারকারীর অভিজ্ঞতা প্রদান।বিক্রির জন্য MCX4121A-ACATবিকল্প এবং দাম-কার্যকারিতা অনুপাতের তুলনা করে, কোম্পানি এই সিদ্ধান্তে পৌঁছেছে যে এই অ্যাডাপ্টারটি একটি অত্যন্ত ব্যয়বহুল 25GbE অ্যাক্সেস সমাধানের প্রতিনিধিত্ব করে।

সংক্ষিপ্ত বিবরণ ও প্রত্যাশাঃ ভবিষ্যতের জন্য প্রস্তুত নিম্ন-ল্যাটেনসি অবকাঠামো নির্মাণ

এই উৎপাদন প্রয়োগের মাধ্যমে, ইন্টারনেট কোম্পানি সফলভাবে বাস্তব বিশ্বের মান যাচাইএনভিডিয়া মেলানোক্স এমসিএক্স ৪১২১এ-এসিএটি. একটি বিস্তৃত ভিত্তি হিসাবেMCX4121A-ACAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধান, অ্যাডাপ্টারটি কেবল স্টোরেজ এবং এআই ওয়ার্কলোডগুলিতে নেটওয়ার্ক বোতল ঘাটতিগুলি সমাধান করেনি, তবে সার্বভৌম সার্ভার থ্রুপুট দক্ষতাও উল্লেখযোগ্যভাবে উন্নত করেছে।এই কেস স্টাডি স্পষ্টভাবে দেখায় যে ২৫জিবিই যুগে, শক্তিশালী আরডিএমএ অফলোড ক্ষমতা সহ একটি অ্যাডাপ্টার নির্বাচন করা সিপিইউ সম্ভাব্যতা আনলক এবং ব্যবসায়-সমালোচনামূলক বিলম্ব হ্রাস করার ক্ষেত্রে গুরুত্বপূর্ণ।

ভবিষ্যতের দিকে তাকিয়ে, দলটিMCX4121A-ACATঅনলাইন লেনদেন প্রক্রিয়াকরণ এবং রিয়েল-টাইম ঝুঁকি নিয়ন্ত্রণ ব্যবস্থা সহ অতিরিক্ত ব্যবহারের ক্ষেত্রে বাস্তবায়ন, আর্থিক-গ্রেড অ্যাপ্লিকেশনগুলির জন্য এর কম বিলম্বের বৈশিষ্ট্যগুলি আরও বাড়িয়ে তোলে।এই সাফল্যের উপর ভিত্তি করে, অবকাঠামো বিভাগ 100GbE এবং পরবর্তী প্রজন্মের পণ্যগুলি মূল্যায়ন শুরু করেছে, কিন্তুMCX4121A-ACATএর পরিপক্ক কানেক্টএক্স-৪ এলএক্স আর্কিটেকচার এবং বিস্তৃত বাস্তুতন্ত্রের সামঞ্জস্যতার সাথে এটি একটি মূল নোড হিসেবে কাজ করবে, যা কোম্পানির চলমান ডেটা সেন্টার বিবর্তনের জন্য একটি শক্ত ভিত্তি প্রদান করবে।