NVIDIA Mellanox MCX653106A-HDAT অ্যাকশনেঃ নিম্ন-ল্যাটেনসি RDMA / RoCE পরিবহন এবং সার্ভার থ্রাবুট অগ্রগতি অর্জন

আধুনিক ডেটা সেন্টার পরিবেশে-বিতরিত স্টোরেজ, উচ্চ-ফ্রিকোয়েন্সি ট্রেডিং এবং এআই ট্রেনিং ক্লাস্টার-এ দুটি ক্রমাগত চ্যালেঞ্জ রয়ে গেছে: নেটওয়ার্ক-প্ররোচিত লেটেন্সি হ্রাস করা এবং CPU-কে বোঝা না করে সার্ভার থ্রুপুট সর্বাধিক করা। এই অ্যাপ্লিকেশনটি গভীর-ডাইভ পরীক্ষা করে যে কীভাবে একটি নেতৃস্থানীয় ক্লাউড অবকাঠামো প্রদানকারী এই সঠিক সমস্যাগুলি মোতায়েন করেNVIDIA Mellanox MCX653106A-HDATতাদের কম্পিউট এবং স্টোরেজ নোড জুড়ে সার্ভার অ্যাডাপ্টার।

পটভূমি ও চ্যালেঞ্জ

সরবরাহকারীর বিদ্যমান 25GbE অবকাঠামো, সফ্টওয়্যার-ভিত্তিক TCP/IP স্ট্যাক সহ স্ট্যান্ডার্ড ইথারনেট অ্যাডাপ্টারের উপর ভিত্তি করে, স্পষ্ট সীমাবদ্ধতা দেখাচ্ছে। ফ্যাব্রিক্সের উপর NVMe ব্যবহার করে স্টোরেজ ওয়ার্কলোডগুলি অপ্রত্যাশিত লেটেন্সি স্পাইক (প্রায়ই 50µs-এর বেশি) অনুভব করেছে, যখন ডাটাবেস ক্লাস্টারগুলি উচ্চ CPU ব্যবহারে ভুগছে—এককভাবে নেটওয়ার্ক প্রক্রিয়াকরণের মাধ্যমে 35% পর্যন্ত কোর ব্যবহার করা হয়েছে। ইঞ্জিনিয়ারিং টিমের এমন একটি সমাধান দরকার ছিল যা RDMA লেনদেনের জন্য সাব-10µs লেটেন্সি প্রদান করতে পারে এবং 200GbE থ্রুপুটকে সমর্থন করতে পারে সম্পূর্ণ আর্কিটেকচারাল ওভারহোলের প্রয়োজন ছাড়াই।

একাধিক বিকল্প মূল্যায়ন করার পরে, তারা চালু হয়েছেMCX653106A-HDAT ইথারনেট অ্যাডাপ্টার কার্ড, যা হার্ডওয়্যার-অফলোড করা RoCE (আরডিএমএ ওভার কনভার্জড ইথারনেট) এবং তাদের বিদ্যমান কিউমুলাস লিনাক্স-ভিত্তিক লিফ-স্পাইন টপোলজির সাথে বিরামহীন একীকরণের প্রতিশ্রুতি দিয়েছে।

সমাধান এবং স্থাপনা পদ্ধতি

মোতায়েনকে কেন্দ্র করেMCX653106A-HDAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ড, একটি নন-ব্লকিং ফ্যাব্রিক তৈরি করতে এর ডুয়াল-পোর্ট 100GbE কনফিগারেশন ব্যবহার করে। প্রতিটি কম্পিউট নোড একটি অ্যাডাপ্টার পেয়েছে, যখন স্টোরেজ নোড রিডানডেন্সির জন্য দুটি দিয়ে সজ্জিত ছিল। মূল বাস্তবায়ন পদক্ষেপ অন্তর্ভুক্ত:

• ক্ষতিহীন পরিবহন নিশ্চিত করতে PFC (অগ্রাধিকার প্রবাহ নিয়ন্ত্রণ) এবং ECN (স্পষ্ট যানজট বিজ্ঞপ্তি) সহ RoCEv2 সক্ষম করা
• উচ্চ-অগ্রাধিকার ডাটাবেস এবং স্টোরেজ ওয়ার্কলোডগুলিতে ভার্চুয়াল ফাংশন উত্সর্গ করতে SR-IOV কনফিগার করা হচ্ছে
• সর্বশেষ স্থাপন করা হচ্ছেMCX653106A-HDAT সামঞ্জস্যপূর্ণউবুন্টু 22.04 LTS নোড জুড়ে ড্রাইভার স্ট্যাক (NVIDIA DOCA 2.5)
• প্যাকেট প্রক্রিয়াকরণ পাথের জন্য হার্ডওয়্যার-ভিত্তিক DPDK ত্বরণ বাস্তবায়ন করা

উপর ভিত্তি করেMCX653106A-HDAT ডেটাশিটএবং প্রি-ডিপ্লয়মেন্ট ভ্যালিডেশন, টিম সাব-1µs হার্ডওয়্যার লেটেন্সি এবং ছোট-প্যাকেট লেনদেনের জন্য প্রতি সেকেন্ডে 215 মিলিয়ন প্যাকেট (MPPS) প্রজেক্ট করেছে—মেট্রিক্স যা তাদের ক্ষমতা পরিকল্পনাকে নির্দেশিত করেছে।

ফলাফল এবং পরিমাপযোগ্য সুবিধা

50টি প্রোডাকশন নোডে চার সপ্তাহের পাইলটের পর, তুলনা করার সময় অবকাঠামো দল নিম্নলিখিত উন্নতিগুলি নথিভুক্ত করেছেNVIDIA Mellanox MCX653106A-HDATতাদের উত্তরাধিকার অ্যাডাপ্টারের বিরুদ্ধে:

কাঁচা সংখ্যার বাইরে, প্রকৌশল দল উল্লেখ করেছে যেMCX653106A-HDAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধানপূর্বে প্রয়োজনীয় টিউনিং ওয়ার্কঅ্যারাউন্ডগুলি বাদ দেওয়া হয়েছে—যেমন ইন্টারাপ্ট কোলেসিং হ্যাক এবং ওভারসাইজ রিসিভ বাফার। VXLAN এবং জেনেভের জন্য অ্যাডাপ্টারের হার্ডওয়্যার অফলোডগুলি তাদের কন্টেইনার নেটওয়ার্কিং স্ট্যাককে সরল করেছে, কুবারনেটস পরিবেশে পড-টু-পড লেটেন্সি 40% কমিয়েছে।

আইটি পরিচালকদের জন্য খরচ মূল্যায়ন,MCX653106A-HDAT মূল্যতুলনামূলক 200GbE সমাধানগুলির সাথে তুলনা CPU মূল সঞ্চয় এবং কম সুইচ পোর্ট ব্যবহারে ফ্যাক্টরিং করার সময় মালিকানার মোট খরচ 15-20% কম দেখায়। এদিকে,MCX653106A-HDAT বিক্রয়ের জন্যHPC এবং রিয়েল-টাইম অ্যানালিটিক্স সহ-সংলগ্ন দলগুলির থেকে অনুসন্ধানগুলি ইতিমধ্যেই পরবর্তী সংগ্রহ চক্রের জন্য জমা দেওয়া হয়েছে।

সারাংশ এবং আউটলুক

স্থাপনা নিশ্চিত করে যেNVIDIA Mellanox MCX653106A-HDATএটি নিছক একটি স্পেসিফিকেশন আপগ্রেড নয় বরং লেটেন্সি-সংবেদনশীল এবং থ্রুপুট-বাউন্ড পরিবেশের জন্য একটি কার্যকরী লিপ। নেটওয়ার্ক প্রক্রিয়াকরণ সফ্টওয়্যার থেকে হার্ডওয়্যারে স্থানান্তর করে—RoCE অফলোড, SR-IOV, এবং GPUDirect-প্রস্তুত আর্কিটেকচারের মাধ্যমে — সংস্থাগুলি অ্যাপ্লিকেশন লজিকের জন্য CPU চক্র পুনরুদ্ধার করার সময় নির্ধারক মাইক্রোসেকেন্ড-স্কেল লেটেন্সি অর্জন করতে পারে।

যেহেতু অবকাঠামো দল তাদের রোলআউটকে 500+ নোডে প্রসারিত করছে, তারা মাল্টি-টেন্যান্ট সিকিউরিটির জন্য অ্যাডাপ্টারের অন্তর্নির্মিত ইনলাইন এনক্রিপশন (IPsec/TLS) এবং আর্থিক পরিষেবার কাজের চাপের জন্য PTP (IEEE 1588v2) অন্বেষণ করছে। বৈধ কনফিগারেশন খুঁজছেন ইঞ্জিনিয়ারদের জন্য,MCX653106A-HDAT স্পেসিফিকেশনএবং রেফারেন্স ডিজাইন NVIDIA এর DOCA ডেভেলপার পোর্টালের মাধ্যমে উপলব্ধ। এই বাস্তব-বিশ্বের ক্ষেত্রে একটি জিনিস পরিষ্কার করে:MCX653106A-HDAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ডপরবর্তী প্রজন্মের ডেটা সেন্টারের জন্য নিম্ন-বিলম্বিত, উচ্চ-থ্রুপুট ইথারনেটের প্রতিশ্রুতি প্রদান করে।

একটি গভীর প্রযুক্তিগত পর্যালোচনার জন্য, কর্মকর্তার সাথে পরামর্শ করুন৷MCX653106A-HDAT ডেটাশিটঅথবা আপনার আঞ্চলিক NVIDIA সলিউশন আর্কিটেক্টের সাথে যোগাযোগ করুন।