NVIDIA Mellanox MCX653105A-HDAT সার্ভার অ্যাডাপ্টার ইন অ্যাকশন: RDMA/RoCE লো-লেটেন্সি পরিবহন এবং সার্ভার

আধুনিক ডেটা সেন্টারগুলিতে, বিতরণকৃত স্টোরেজ, উচ্চ-কার্যকারিতা কম্পিউটিং (এইচপিসি) এবং এআই প্রশিক্ষণ ক্লাস্টারগুলি একটি সাধারণ বোতলঘাটের মুখোমুখি হয়ঃ নেটওয়ার্ক।ঐতিহ্যবাহী টিসিপি/আইপি স্ট্যাকগুলি উল্লেখযোগ্য বিলম্ব এবং সিপিইউ ওভারহেড প্রবর্তন করেএই কেস স্টাডিতে দেখানো হয়েছে যে কিভাবে একটি মাঝারি আকারের ক্লাউড প্রদানকারী এই চ্যালেঞ্জগুলি মোকাবেলা করেছে।এনভিআইডিআইএ মেলানক্স এমসিএক্স 653105 এ-এইচডিএটিসার্ভার অ্যাডাপ্টার RDMA/RoCE-ভিত্তিক কম লেটেন্সি ট্রান্সপোর্ট সক্ষম করতে এবং সার্ভারের থ্রুপুটকে নাটকীয়ভাবে বাড়াতে।

ব্যাকগ্রাউন্ড ও চ্যালেঞ্জ: যখন প্রতিটি মাইক্রোসেকেন্ড গুরুত্বপূর্ণ

প্রোভাইডারের বিদ্যমান 25GbE অবকাঠামো, স্ট্যান্ডার্ড টিসিপি / আইপি চালানো, তাদের নতুন NVMe-over-Fabrics স্টোরেজ ব্যাকএন্ড সমর্থন করতে সংগ্রাম করছিল।শুধুমাত্র নেটওয়ার্ক প্রসেসিংয়ের কারণে স্টোরেজ নোডগুলিতে সিপিইউ ব্যবহার নিয়মিতভাবে 70% ছাড়িয়ে গেছে, এবং ইন্টার-নোড লেটেন্সি প্রায় 50μs এর আশেপাশে ছিল, যা তাদের লেটেন্সি-সংবেদনশীল ডাটাবেস ওয়ার্কলোডের জন্য অগ্রহণযোগ্য।নেটওয়ার্কের ঘনত্বের কারণে টেল লেটেন্সি স্পাইক ঘটেছে যা অ্যাপ্লিকেশন এসএলএগুলিকে প্রভাবিত করেতাদের এমন একটি সমাধানের প্রয়োজন ছিল যা নেটওয়ার্কিং ওভারহেডকে ছাড়িয়ে যেতে পারে, sub-microsecond latency প্রদান করতে পারে এবং লোডের অধীনে ধারাবাহিক কর্মক্ষমতা বজায় রাখতে পারে।

সমাধান ও বাস্তবায়নঃ MCX653105A-HDAT ConnectX অ্যাডাপ্টার পিসিআইই নেটওয়ার্ক কার্ড চালু করা

বেশ কয়েকটি বিকল্প মূল্যায়ন করার পর, দলটিMCX653105A-HDAT ইথারনেট অ্যাডাপ্টার কার্ডএর ডুয়াল-পোর্ট 100GbE ক্ষমতা এবং RoCE (RDMA over Converged Ethernet) এর জন্য নেটিভ সাপোর্ট।এনভিআইডিআইএ মেলানক্স এমসিএক্স 653105 এ-এইচডিএটিনিম্নলিখিত কনফিগারেশনের সাথে 120 টি স্টোরেজ এবং কম্পিউটিং নোড জুড়ে স্থাপন করা হয়েছিলঃ

• RoCE সক্ষমECN (Explicit Congestion Notification) এবং DCQCN দিয়ে ঘনত্ব নিয়ন্ত্রণ
• NVMe-oF লক্ষ্যমাত্রা আনলোডহার্ডওয়্যারে, স্টোরেজ I/O এর জন্য হোস্ট CPU এ বাইপাস করে
• পার্টিশনস্টোরেজ ট্রাফিকের জন্য ক্ষতিহীন অগ্রাধিকার প্রবাহ
• টেলিমেট্রি পর্যবেক্ষণঅ্যাডাপ্টারের অন্তর্নির্মিত কর্মক্ষমতা কাউন্টার ব্যবহার করে

এর মতেMCX653105A-HDAT ডেটা শীট, কার্ডটি ইনফিনিব্যান্ড এবং ইথারনেট প্রোটোকল উভয়কেই সমর্থন করে, তবে দলটি তাদের বিদ্যমান ইথারনেট সুইচগুলির সাথে নির্বিঘ্নে সংহত করার জন্য RoCEv2 বেছে নিয়েছে। সামঞ্জস্যতা সহজ ছিলঃসব প্রধান সার্ভার মডেল ছিলMCX653105A-HDAT সামঞ্জস্যপূর্ণ, শুধুমাত্র স্ট্যান্ডার্ড পিসিআইই স্লট এবং আপডেট করা ফার্মওয়্যার প্রয়োজন। অ্যাডাপ্টারের লাইভ মাইগ্রেশন বৈশিষ্ট্যগুলি ব্যবহার করে শূন্য ডাউনটাইম সহ দুই সপ্তাহান্তে বাস্তবায়ন সম্পন্ন হয়েছিল।

ফলাফল ও উপকারিতাঃ পরিমাপযোগ্য কর্মক্ষমতা লাভ

এর প্রভাব তাৎক্ষণিক এবং উল্লেখযোগ্য ছিল। নিম্নলিখিত টেবিলে মূল পরিমাপগুলি সংক্ষিপ্ত করা হয়েছেMCX653105A-HDAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধান:

এই সংখ্যা ছাড়াও, দলটি অতিরিক্ত অপারেশনাল সুবিধাগুলি লক্ষ্য করেছে।MCX653105A-HDAT স্পেসিফিকেশনহার্ডওয়্যার-ভিত্তিক সংযোগ ট্র্যাকিং এবং ASAP2 ফ্লো অফলোড অন্তর্ভুক্ত করে, যা পূর্ব-পশ্চিম ট্র্যাফিক জটকে হ্রাস করে এবং মসৃণ স্কেলিং সক্ষম করে।MCX653105A-HDAT দামসিপিইউ কোর লাইসেন্সিং খরচ কম এবং নোড প্রতি উচ্চতর স্টোরেজ ঘনত্ব দ্বারা ছয় মাসের মধ্যে ন্যায়সঙ্গত ছিল।বিক্রির জন্য MCX653105A-HDATস্ট্যান্ডার্ড চ্যানেলের মাধ্যমে, এই কর্মক্ষমতা সব আকারের প্রতিষ্ঠানের জন্য অ্যাক্সেসযোগ্য করে তোলে।

সংক্ষিপ্ত বিবরণ ও প্রত্যাশা: পরবর্তী প্রজন্মের অবকাঠামোর জন্য একটি ভিত্তি

এই মামলাটি প্রমাণ করে যেMCX653105A-HDAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ডএটি কেবলমাত্র একটি দ্রুত NIC নয়, এটি সত্যিকারের ডেটা-কেন্দ্রিক কম্পিউটিংয়ের জন্য একটি প্ল্যাটফর্ম।এনভিআইডিআইএ মেলানক্স এমসিএক্স 653105 এ-এইচডিএটিসার্ভারগুলি কীভাবে যোগাযোগ করে তা রূপান্তর করে, পুরানো প্রোটোকল ওভারহেড দূর করে এবং NVMe স্টোরেজ এবং বিতরণকৃত মেমরি ফ্যাব্রিকগুলির সম্পূর্ণ সম্ভাবনাকে উন্মুক্ত করে।

ভবিষ্যতের দিকে তাকিয়ে, এই সরবরাহকারী তাদের প্রয়োগকে এআই প্রশিক্ষণের কাজের বোঝার জন্য GPUDirect RDMA অন্তর্ভুক্ত করার পরিকল্পনা করেছে,পাশাপাশি কাস্টম প্যাকেট প্রসেসিং জন্য অ্যাডাপ্টারের প্রোগ্রামযোগ্যতা বৈশিষ্ট্য অন্বেষণআইটি আর্কিটেক্ট এবং নেটওয়ার্ক ইঞ্জিনিয়ারদের জন্য একই রকম স্কেলিং চ্যালেঞ্জের মুখোমুখি,MCX653105A-HDAT ইথারনেট অ্যাডাপ্টার কার্ডএটি একটি পরীক্ষিত, ভবিষ্যতের জন্য প্রস্তুত পথকে কম-ল্যাটেনসি, উচ্চ-থ্রুপুট ডেটা সেন্টার নেটওয়ার্কিংয়ের দিকে প্রস্তাব করে।