Mellanox (NVIDIA Mellanox) MCX556A-ECAT সার্ভার এনআইসি অ্যাকশনে।

হাইপারস্কেল ডেটা সেন্টার এবং এন্টারপ্রাইজ ক্লাউড পরিবেশে একটি সাধারণ চ্যালেঞ্জের মুখোমুখি হয়ঃ যেমন সিপিইউ কোর সংখ্যা বৃদ্ধি পায়, ঐতিহ্যগত টিসিপি / আইপি নেটওয়ার্কিং বোতল ঘা হয়ে যায়। প্রোটোকল ওভারহেড, মেমরি কপি,এবং প্রসঙ্গ সুইচ উল্লেখযোগ্য CPU সম্পদ গ্রাসএই কেস স্টাডিতে দেখা গেছে যে কীভাবে একটি ফিনান্সিয়াল সার্ভিসেস ইনফ্রাস্ট্রাকচার টিমমেলানক্স (এনভিআইডিআইএ মেলানক্স) এমসিএক্স৫৫৬এ-ইসিএটিসার্ভার এনআইসি, লেটেন্সিতে নাটকীয় হ্রাস এবং সার্ভারের থ্রুপুটের পরিমাপযোগ্য উন্নতি অর্জন করে।

ব্যাকগ্রাউন্ড ও চ্যালেঞ্জ: যখন প্রতিটি মাইক্রোসেকেন্ড গুরুত্বপূর্ণ

অবকাঠামোগত দলটি রিয়েল-টাইম ঝুঁকি বিশ্লেষণ সমর্থনকারী একটি বিতরণকৃত ডাটাবেস ক্লাস্টার পরিচালনা করেছিল। শত শত কমোডিটি সার্ভার 25GbE এর মাধ্যমে সংযুক্ত ছিল, ইন্টার-নোড যোগাযোগটি TCP এর উপর নির্ভর করে।ট্রেডিংয়ের পরিমাণ বাড়ার সাথে সাথে, তিনটি সমালোচনামূলক সমস্যা উদ্ভূত হয়েছেঃ নেটওয়ার্ক স্ট্যাক প্রসেসিংয়ের কারণে ডাটাবেস নোডগুলিতে সিপিইউ ব্যবহার 75% ছাড়িয়ে গেছে;ক্রস-নোড মেমরি অপারেশনের জন্য লেটেনসি সর্বাধিক ঘণ্টার সময় 200 মাইক্রোসেকেন্ডে বেড়েছে; এবং কোম্পানিটি ব্যয়বহুল ওভার-প্রোভিজনিংয়ের মুখোমুখি হয়েছিল ০আরও সার্ভার যুক্ত করা কেবল নেটওয়ার্ক ওভারহেড পরিচালনা করার জন্য, কম্পিউটারের চাহিদা নয়।MCX556A-ECAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধানযা দূরবর্তী সরাসরি মেমরি অ্যাক্সেস (আরডিএমএ) সক্ষম করার সময় নেটওয়ার্কিংকে কমিয়ে দিতে পারে।

সমাধান ও বাস্তবায়নঃ কানেক্টএক্স অ্যাডাপ্টারগুলির সাথে RoCE বাস্তবায়ন

বিকল্পগুলি মূল্যায়ন করার পর, দলটিএনভিডিয়া মেলানক্স এমসিএক্স৫৫৬এ-ইসিএটিএর দ্বৈত-পোর্ট 100GbE ক্ষমতা এবং নেটিভ RoCE (RDMA over Converged Ethernet) সমর্থন উপর ভিত্তি করে।MCX556A-ECAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ড, প্রতিটি হোস্ট একটি একক অ্যাডাপ্টার পেয়েছিল যা একটি RoCE- সক্ষম শীর্ষ-র্যাক সুইচ-এর সাথে PFC (প্রাধান্য প্রবাহ নিয়ন্ত্রণ) এবং ECN (স্পষ্ট ঘনত্ব বিজ্ঞপ্তি) সক্ষম করা হয়েছিল।অভিবাসনের পথ সহজ ছিল: অ্যাডাপ্টারটিMCX556A-ECAT সামঞ্জস্যপূর্ণবিদ্যমান পিসিআইই 3.0 স্লটগুলির সাথে, সার্ভার আপগ্রেডগুলি নির্মূল করে।MCX556A-ECAT ডেটা শীট. দুই সপ্তাহের মধ্যে, পুরো 120-নোড ক্লাস্টারটি ডাটাবেস প্রতিলিপি এবং ইন-মেমরি ক্যাশে করার জন্য RDMA- ভিত্তিক যোগাযোগ চালাচ্ছিল।

দ্যMCX556A-ECAT ইথারনেট অ্যাডাপ্টার কার্ডডাউনলোড করা কী অপারেশনঃ ইউজারস্পেস ভার্বস এপিআই এর মাধ্যমে কার্নেল বাইপাস, আরডিএমএ লেখার / পড়ার জন্য হার্ডওয়্যার-ভিত্তিক পরিবহন এবং শূন্য-কপি ডেটা চলাচল।মেলানক্স (এনভিআইডিআইএ মেলানক্স) এমসিএক্স৫৫৬এ-ইসিএটিবিদ্যমান অ্যাপ্লিকেশন লজিক পরিবর্তন না করে ক্লাস্টারের নিম্ন-ল্যাটেনসি ব্যাকবোনের মধ্যে প্রবেশ করুন, কেবলমাত্র টিসিপি সকেট থেকে লিবফাব্রিক বা ইউসিএক্স-এ স্যুইচ করুন, একটি নিয়মিত রক্ষণাবেক্ষণ উইন্ডোর সময় পরিচালিত পরিবর্তন।

ফলাফল এবং উপকারিতাঃ লেটেন্সি এবং থ্রুপুটের পরিমাপযোগ্য লাভ

ইনভেস্টমেন্টটি প্রয়োগের পরে পরিমাপগুলি যাচাই করে।MCX556A-ECAT স্পেসিফিকেশনএকটি বেসলাইন হিসাবে (সাব-মাইক্রোসেকেন্ড হার্ডওয়্যার লেটেন্সি), দলটি অর্জন করেছেঃ

কাঁচা সংখ্যার বাইরে, দলটি ঝুঁকি গণনার জন্য 99.9 তম শতাংশে 4 মাইক্রোসেকেন্ডের নিচে স্থিতিশীল লেটেনসি অর্জন করেছে।মুক্ত সিপিইউ কোর বিদ্যমান সার্ভারগুলিকে 40% বেশি অ্যাপ্লিকেশন থ্রেড পরিচালনা করতে দেয়, হার্ডওয়্যার ক্রয় স্থগিত।বিক্রির জন্য MCX556A-ECATঅর্থনীতি স্পষ্ট হয়ে উঠেছেঃ প্রতি সার্ভারে একটি অ্যাডাপ্টার ছয় মাসের মধ্যে ROI সরবরাহ করেছে কেবলমাত্র কম নোড সংখ্যা এবং কম শক্তি / শীতল খরচ থেকে।MCX556A-ECAT মূল্যপ্রতিযোগিতামূলক ১০০জি কার্ডের তুলনায়, সফটওয়্যার সামঞ্জস্যতা এবং ড্রাইভার স্থিতিশীলতা সহ মালিকানার মোট খরচ মেলানোক্স সমাধানকে সমর্থন করেছিল।

দলটি আরও যাচাই করেছেMCX556A-ECAT সামঞ্জস্যপূর্ণএটি তাদের বিদ্যমান এনভিএম স্টোরেজ অ্যারের সাথে এনভিএম ওভার ফ্যাব্রিকস (এনভিএম-ওএফ) RDMA এর সাথে সক্ষম করে। এটি একই ফ্যাব্রিকের উপর সংহত স্টোরেজ নেটওয়ার্কিং, তারের এবং সুইচ পোর্টগুলি সহজ করে।এর মতেMCX556A-ECAT ডেটা শীট, এই কার্ডটি প্রতি পোর্টে ১৬ মিলিয়ন আইওপিএস সমর্থন করে যা আগামী বছরের স্টোরেজ আপগ্রেডের সময় ব্যবহার করার পরিকল্পনা করছে।

সংক্ষিপ্ত বিবরণ এবং দৃষ্টিভঙ্গিঃ পরবর্তী প্রজন্মের ডেটা সেন্টারের জন্য একটি ভিত্তি

এই কর্মসূচি প্রমাণ করে যেMCX556A-ECATএটি কেবলমাত্র একটি দ্রুত এনআইসি নয় বরং আর্কিটেকচারাল রূপান্তরের জন্য একটি প্ল্যাটফর্ম। RDMA / RoCE সক্ষম করে, সংস্থাগুলি টিসিপি বোতল ঘাটি ভেঙে দিতে পারে, মান যুক্ত ওয়ার্কলোডের জন্য সিপিইউ চক্রগুলি পুনরায় ব্যবহার করতে পারে,এবং কার্যকরভাবে স্কেল আপ.এনভিডিয়া মেলানক্স এমসিএক্স৫৫৬এ-ইসিএটিল্যাটেনসি-সেনসিটিভ ফাইন্যান্সে এর মূল্য প্রমাণিত হয়েছে, তবে এর সুবিধাগুলি এআই প্রশিক্ষণ, এইচপিসি সিমুলেশন এবং বিতরণ করা ডাটাবেসগুলিতে প্রসারিত হয়।MCX556A-ECAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ডএকটি পরিপক্ক, ভাল নথিভুক্ত পছন্দ।MCX556A-ECAT স্পেসিফিকেশনপারফরম্যান্স টিউনিং বা অনুসন্ধানের জন্যবিক্রির জন্য MCX556A-ECATএকটি ক্লাস্টার-ব্যাপী রোলআউট পরিকল্পনা করার জন্য, এই অ্যাডাপ্টার সত্যিকারের ক্ষতিহীন, কম বিলম্ব ইথারনেটের প্রতিশ্রুতি প্রদান করে।