অ্যাকশনে NVIDIA Mellanox MCX4121A-ACAT সার্ভার অ্যাডাপ্টার | RDMA/RoCE লো-লেটেন্সি ট্রান্সপোর্ট ও সার্ভার থ্রুপুট বৃদ্ধি

NVIDIA Mellanox MCX4121A-ACAT সার্ভার অ্যাডাপ্টার অ্যাকশনে।

পটভূমি ও চ্যালেঞ্জঃ যখন 25GbE লেটেন্সি ওয়ালের সাথে মিলিত হয়

একটি মাঝারি আকারের ক্লাউড সার্ভিস প্রদানকারী - আসুন তাদের "ক্লাউডনোভা" বলি - একটি পরিচিত কিন্তু বেদনাদায়ক বোতল ঘাটের মুখোমুখি হয়েছিল। তাদের ডেটা সেন্টার 25GbE অবকাঠামোর উপর চলেছিল,কিন্তু অ্যাপ্লিকেশন কর্মক্ষমতা একটি ভিন্ন গল্প বলেনডাটাবেজ প্রতিলিপি বিলম্বিত, ডিস্ট্রিবিউটেড মেশিন লার্নিং কাজ গ্রেডিয়েন্ট সিঙ্ক্রোনাইজেশনে স্থবির, এবং NVMe স্টোরেজ অ্যারে তাদের প্রতিশ্রুত IOPS প্রদান করেনি। অপরাধী?ঐতিহ্যগত টিসিপি/আইপি স্ট্যাক ওভারহেড তাদের কম্পিউটিং নোডের সিপিইউ কোরগুলির 25% এরও বেশি খরচ করছিল, এবং বিদ্যমান এনআইসিগুলি আরডিএমএর জন্য হার্ডওয়্যার অফলোডের অভাব ছিল। তাদের যা প্রয়োজন তা কেবল আরও ব্যান্ডউইথ ছিল না,ব্যবহারযোগ্যমাইক্রোসেকেন্ড স্তরের নির্ধারকতা সঙ্গে ব্যান্ডউইথ তাদের অনুসন্ধান তাদের নেতৃত্বেএনভিডিয়া মেলানোক্স এমসিএক্স ৪১২১এ-এসিএটিএকটি কার্ড যা আধুনিক ডেটা সেন্টারের সমস্যার জন্য তৈরি করা হয়েছে।

সমাধানঃ MCX4121A-ACAT ইথারনেট অ্যাডাপ্টার কার্ড স্থাপন

CloudNova এর আর্কিটেকচার টিম তাদের উত্তরাধিকার 10GbE NICs প্রতিস্থাপনMCX4121A-ACAT ইথারনেট অ্যাডাপ্টার কার্ড120 টি কম্পিউটারের নোড জুড়ে, প্রতিটি দ্বৈত SFP28 পোর্ট দিয়ে সজ্জিত। ক্ষতিহীন ইথারনেট পরিবহন সক্ষম করার জন্য অ্যাডাপ্টারের নেটিভ RoCE v2 সমর্থনকে কাজে লাগানো হয়েছে,পৃথক ইনফিনিব্যান্ড ফ্যাব্রিকের প্রয়োজন দূর করেসমাধানের মূল চাবিকাঠি ছিলMCX4121A-ACAT ConnectX-4 Lx ডুয়াল পোর্ট 25GbE SFP28এটি একটি সক্রিয়-সক্রিয় লিঙ্ক বন্ডিংয়ের অনুমতি দেয় যা প্রতি সার্ভারে 50 গিগাবাইট / সেকেন্ডের সামগ্রিক থ্রুপুটের জন্য।টিম সুইচ স্তরে PFC (Priority Flow Control) এবং ECN (Explicit Congestion Notification) কনফিগার করেছে, যা নিশ্চিত করে যে RoCE ট্র্যাফিক এমনকি শীর্ষ লোডের সময়ও ক্ষতিহীন ছিল।সমগ্র স্টোরেজ এবং কম্পিউটিং ফ্যাব্রিকটি আরডিএমএ-তে চলছিল, যা বিদ্যমান এসএফপি 28 ক্যাবলিং এবং মেলানক্স স্পেকট্রাম সুইচগুলির সাথে অ্যাডাপ্টারের আউট-অফ-বক্স সামঞ্জস্যের কারণে নির্বিঘ্নে রূপান্তরিত হয়েছিল.

অপারেশনাল দৃষ্টিকোণ থেকেMCX4121A-ACAT সামঞ্জস্যপূর্ণইকোসিস্টেমটি অমূল্য প্রমাণিত হয়েছিল। কার্ডগুলি ক্লাউডনোভার উবুন্টু ভিত্তিক সার্ভার এবং কুবারনেটস ক্লাস্টারের সাথে নির্বিঘ্নে একীভূত হয়েছিল, কেবলমাত্র স্ট্যান্ডার্ড ড্রাইভার ইনস্টলেশন প্রয়োজন ছিল। দলটিMCX4121A-ACAT ডেটা শীটবুফার বরাদ্দকে সূক্ষ্মভাবে সামঞ্জস্য করতে এবং সমন্বয় সেটিংসের বিরতি দিতে, তাদের মিশ্র ওয়ার্কলোড পরিবেশের জন্য সর্বোত্তম পারফরম্যান্স অর্জন করতে যা মাইএসকিউএল ক্লাস্টার, স্পার্ক অ্যানালিটিক্স,এবং TensorFlow প্রশিক্ষণ কাজ.

পরিমাপযোগ্য ফলাফলঃ থ্রুপুট, লেটেন্সি এবং সিপিইউ দক্ষতা

কর্মক্ষমতা বৃদ্ধি তাত্ক্ষণিক এবং পরিমাপযোগ্য ছিলএনভিডিয়া মেলানোক্স এমসিএক্স ৪১২১এ-এসিএটি, স্টোরেজ ব্যাকএন্ড NVMe-oF পাঠের বিলম্ব 85μs থেকে মাত্র 12μs ¢ একটি 7x উন্নতি হ্রাস দেখেছি। প্রাথমিক এবং স্ট্যান্ডবাই নোডগুলির মধ্যে ডাটাবেস প্রতিলিপি বিলম্ব 320ms থেকে 2ms এর নিচে সঙ্কুচিত হয়েছে,প্রায়-সিঙ্ক্রোনাস ফায়ারওভার সক্ষম করেমেশিন লার্নিং ওয়ার্কলোডের জন্য, ResNet-50 প্রশিক্ষণের জন্য সমস্ত-নিম্ন সিঙ্ক্রোনাইজেশন সময় 62% হ্রাস পেয়েছে, যা সামগ্রিক epoch প্রশিক্ষণ সময়কে 4.2 ঘন্টা থেকে 1.6 ঘন্টা পর্যন্ত হ্রাস করেছে।

ল্যাটেনসির বাইরে, সার্ভারের থ্রুপুট লাভগুলিও সমানভাবে আকর্ষণীয় ছিল। হার্ডওয়্যার অফলোড ইঞ্জিন যা চেকসাম অফলোড, এলএসও / এলআরও,এবং ভিএলএএন ট্যাগিং সমস্ত নোডে নেটওয়ার্ক প্রসেসিংয়ের জন্য সিপিইউ ব্যবহার ২৮% থেকে ৫% এর নিচে হ্রাস পেয়েছেএটি অ্যাপ্লিকেশন লজিকের জন্য প্রতি সার্ভারে 20 টিরও বেশি সিপিইউ কোর মুক্ত করেছে, সরাসরি কনটেইনার ঘনত্ব 40% বৃদ্ধি করেছে।MCX4121A-ACAT স্পেসিফিকেশন, কার্ডটি প্রতি পোর্টে লাইন-রেট 25GbE প্রদান করে এবং ক্লাউডনোভার অভ্যন্তরীণ বেঞ্চমার্কগুলি এই সংখ্যাগুলি উত্পাদনে নিশ্চিত করেছে।

অপারেশনাল বেনিফিটঃ টিসিও এবং ভবিষ্যতের প্রস্তুতি

যদিও অপরিশোধিত পারফরম্যান্সের পরিসংখ্যানগুলি একটি আকর্ষণীয় গল্প বলে, অপারেশনাল লাভগুলি সমানভাবে উল্লেখযোগ্য ছিল।MCX4121A-ACAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধানপৃথক আরডিএমএ ফ্যাব্রিকের প্রয়োজনীয়তা দূর করে মালিকানার মোট ব্যয় হ্রাস করেছে (সুইচ অবকাঠামোতে 180K ডলারেরও বেশি সাশ্রয়) ।পূর্ববর্তী এনআইসির তুলনায় প্রতি সার্ভারে বিদ্যুৎ খরচ ৮ ওয়াট কমেছে, যা বার্ষিক প্রায় 15% শীতল সংরক্ষণের জন্য অনুবাদ করে। অতিরিক্তভাবে, অ্যাডাপ্টারের ডুয়াল-পোর্ট ডিজাইনটি একটি লিঙ্কটি ফ্ল্যাপিংয়ের সময় নেটিভ রিডন্ড্যান্স সরবরাহ করেছিল,ট্র্যাফিক স্বয়ংক্রিয়ভাবে সেকেন্ডারি পোর্টে ব্যর্থ হয়েছে, শূন্য প্যাকেট ক্ষতির সাথে, যেমনটা অ্যাডাপ্টারের টেলিমেট্রি লগ থেকে প্রমাণিত হয়েছে।

আইটি ম্যানেজারদের জন্যMCX4121A-ACAT দামবিকল্প সমাধানগুলির তুলনায়, ক্লাউডনোভার সিএফও উল্লেখ করেছেন যে, আয়-প্রাপ্তি সময়কাল ১০ মাসেরও কম ছিল, যা মূলত সার্ভারের ব্যবহার বৃদ্ধি এবং কাজের সমাপ্তির সময় হ্রাসের কারণে।দলটিও ভবিষ্যৎমুখী স্থাপত্যের প্রশংসা করেছে বিক্রির জন্য MCX4121A-ACATবর্তমানে 25GbE সমর্থন করে তবে ভবিষ্যতে আপগ্রেডের জন্য বিনিয়োগ সুরক্ষা নিশ্চিত করে উপযুক্ত অপটিক্স সহ 10GbE বা 40GbE পরিবেশের জন্য পুনরায় ব্যবহার করা যেতে পারে।

সংক্ষিপ্ত বিবরণ এবং দৃষ্টিভঙ্গিঃ আরডিএমএ-রেডি ডেটা সেন্টারের জন্য একটি ব্লুপ্রিন্ট

CloudNova এর যাত্রাএনভিডিয়া মেলানোক্স এমসিএক্স ৪১২১এ-এসিএটি25GbE অবকাঠামোর পূর্ণ সম্ভাবনা উন্মোচন করতে চায় এমন সংস্থাগুলির জন্য একটি স্পষ্ট ব্লুপ্রিন্ট প্রদর্শন করে।এবং বিদ্যমান বাস্তুতন্ত্রের সাথে নিরবচ্ছিন্ন একীকরণ,MCX4121A-ACAT ইথারনেট অ্যাডাপ্টার কার্ডনেটওয়ার্ক আই/ওকে একটি বোতল ঘাঁটি থেকে কর্মক্ষমতা সক্ষমকরণে রূপান্তর করে। ফলাফল ¢ 7x কম স্টোরেজ বিলম্ব, 83% সিপিইউ ওভারহেড হ্রাসএবং ৬২% দ্রুত ম্যালেরিয়া প্রশিক্ষণ √ পরিমাপযোগ্য ব্যবসায়িক ফলাফল প্রদানের জন্য অ্যাডাপ্টারের ক্ষমতা সম্পর্কে কথা বলুন.

ভবিষ্যতের দিকে তাকিয়ে, যেমন এআই ওয়ার্কলোড এবং রিয়েল-টাইম বিশ্লেষণগুলি নির্ধারক নেটওয়ার্কিংয়ের চাহিদা চালিয়ে যাচ্ছে,MCX4121A-ACAT ConnectX-4 Lx ডুয়াল পোর্ট 25GbE SFP28ফর্কলিফ্ট আপগ্রেড ছাড়াই RDMA গ্রহণের জন্য একটি শক্ত ভিত্তি প্রদান করে।কিন্তু একটি কৌশলগত সম্পদ. বিস্তারিত টিউনিং প্যারামিটার এবং মোতায়েনের সেরা অনুশীলনগুলি অফিসিয়ালMCX4121A-ACAT ডেটা শীট∙ যেকোনো গুরুতর মোতায়েনের জন্য একটি অপরিহার্য রেফারেন্স।