NVIDIA Mellanox MCX623106AN-CDAT সার্ভার অ্যাডাপ্টার কাজ করছে

একটি মাঝারি আকারের ক্লাউড প্রদানকারী সম্প্রতি একটি পরিচিত চ্যালেঞ্জের সম্মুখীন হয়েছে: তাদের উত্তরাধিকারী 25GbE NICs NVMe-oF স্টোরেজের বিস্ফোরক বৃদ্ধির সাথে তাল মিলিয়ে চলতে পারেনি এবং AI প্রশিক্ষণের কাজের চাপ বিতরণ করেছে। ঐতিহ্যগত TCP/IP স্ট্যাক ওভারহেডের কারণে স্টোরেজ নোডে CPU ব্যবহার প্রায়শই 70% ছাড়িয়ে যায়, যখন পিক আওয়ারে টেল লেটেন্সি অ্যাপ্লিকেশনের কার্যকারিতাকে ক্ষতিগ্রস্ত করে। এই বাস্তব বিশ্বের ক্ষেত্রে দেখায় কিভাবেNVIDIA Mellanox MCX623106AN-CDATRDMA এবং RoCE এর মাধ্যমে তাদের পরিকাঠামো পরিবর্তন করেছে।

প্রদানকারীর স্টোরেজ ক্লাস্টারে 50টি Ceph নোড রয়েছে, প্রতিটি ক্লায়েন্ট I/O এবং অভ্যন্তরীণ প্রতিলিপি ট্র্যাফিক উভয়ই পরিচালনা করে। ব্যাকএন্ডে 3,000+ NVMe ড্রাইভের সাথে, তিনটি সমস্যা তীব্র হয়ে উঠেছে: নেটওয়ার্ক প্রক্রিয়াকরণ থেকে উচ্চ CPU বাধা, মিশ্র কাজের চাপের অধীনে অসামঞ্জস্যপূর্ণ লেটেন্সি এবং পূর্ব-পশ্চিম ব্যান্ডউইথ স্যাচুরেশন। উত্তরাধিকারী অ্যাডাপ্টারগুলিতে RoCE-এর জন্য হার্ডওয়্যার অফলোডের অভাব ছিল, প্রতিটি প্যাকেটকে কার্নেল স্ট্যাকের মধ্য দিয়ে যেতে বাধ্য করে। মূল্যায়ন করার পরMCX623106AN-CDAT স্পেসিফিকেশনএবংMCX623106AN-CDAT ডেটাশিট, দল নির্বাচন করেছেMCX623106AN-CDAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ডপাইলট স্থাপনের জন্য।

নতুন স্থাপত্যের সাথে উত্তরাধিকার অ্যাডাপ্টার প্রতিস্থাপিত হয়েছেNVIDIA Mellanox MCX623106AN-CDATআটটি স্টোরেজ নোড এবং চারটি কম্পিউট নোডে। দMCX623106AN-CDAT ইথারনেট অ্যাডাপ্টার কার্ডডুয়াল-পোর্ট 100Gb/s, PCIe 4.0/5.0, এবং নেটিভ RoCE সমর্থন বৈশিষ্ট্যগুলি। মূল স্থাপনা পদক্ষেপ অন্তর্ভুক্ত:

• RoCE কনজেশন নিয়ন্ত্রণের জন্য DCQCN (ডেটা সেন্টার কোয়ান্টাইজড কনজেশন নোটিফিকেশন) সক্ষম করা
• স্টোরেজ এবং এআই ট্রেনিং ট্রাফিককে বিচ্ছিন্ন করতে PFC (অগ্রাধিকার প্রবাহ নিয়ন্ত্রণ) ডোমেন পার্টিশন করা
• ফ্যাব্রিককে লসলেস ইথারনেট মেরুদণ্ড-পাতার টপোলজিতে আপগ্রেড করা (25ms বাফার থ্রেশহোল্ড)
• ব্লক স্টোরেজ অ্যাক্সেসের জন্য RDMA এর সাথে NVMe-oF স্থাপন করা হচ্ছে

অ্যাডাপ্টারের ASAP² অফলোড ইঞ্জিন স্টোরেজ নোডগুলিতে প্রতি সেকেন্ডে 90 মিলিয়ন প্যাকেটের বেশি প্রক্রিয়া করে, ডেটা চলাচলের জন্য হোস্ট সিপিইউকে সম্পূর্ণভাবে বাইপাস করে। দMCX623106AN-CDAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধানপারফরম্যান্স পেনাল্টি ছাড়াই ইন-লাইন এনক্রিপশন সক্ষম করেছে — প্রদানকারীর আর্থিক পরিষেবা ভাড়াটেদের জন্য একটি প্রয়োজনীয়তা।

তিন মাস উত্পাদন ব্যবহারের পরে, প্রদানকারী উল্লেখযোগ্য উন্নতি নথিভুক্ত করেছে:

দMCX623106AN-CDAT ইথারনেট অ্যাডাপ্টার কার্ডএছাড়াও সম্পূর্ণরূপে প্রমাণিতMCX623106AN-CDAT সামঞ্জস্যপূর্ণপ্রদানকারীর বিদ্যমান Cumulus Linux সুইচ এবং Ceph BlueStore ব্যাকএন্ড সহ। পর্যায়ক্রমে রোলআউটের সময় কোন ড্রাইভার বা ফার্মওয়্যার দ্বন্দ্ব আবির্ভূত হয়নি।

এই স্থাপনা নিশ্চিত করে যেNVIDIA Mellanox MCX623106AN-CDATএটি শুধুমাত্র একটি ব্যান্ডউইথ আপগ্রেড নয় - এটি মৌলিকভাবে RDMA/RoCE এর মাধ্যমে সার্ভারের দক্ষতা পরিবর্তন করে। নেটওয়ার্ক প্রসেসিং অফলোড করে এবং লসলেস ইথারনেট সক্ষম করে, অ্যাপ্লিকেশন ওয়ার্কলোডের জন্য CPU কোর মুক্ত করার সময় অ্যাডাপ্টার স্টোরেজ লেটেন্সি 5x কমিয়ে দেয়। আইটি পরিচালকদের মূল্যায়নের জন্যMCX623106AN-CDAT মূল্যএবং ROI, প্রদানকারী সার্ভারের সংখ্যা হ্রাস এবং কম লাইসেন্সিং ফি এর মাধ্যমে সাত মাসের মধ্যে হার্ডওয়্যার পেব্যাক অর্জন করেছে।

যেহেতু আরো প্রতিষ্ঠান NVMe-oF, GPU ডাইরেক্ট RDMA, এবং মাইক্রোসার্ভিসেস গ্রহণ করে,MCX623106AN-CDAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ডকম লেটেন্সি, হাই-থ্রুপুট ডেটা সেন্টারের জন্য একটি প্রমাণিত পথ অফার করে। যারা খুঁজছেনMCX623106AN-CDAT বিক্রয়ের জন্যঅনুমোদিত NVIDIA Mellanox পরিবেশকদের সাথে যোগাযোগ করতে পারেন। পূর্ণMCX623106AN-CDAT স্পেসিফিকেশনএবং স্থাপনার গাইড অফিসিয়ালে পাওয়া যায়MCX623106AN-CDAT ডেটাশিট.