অ্যাকশনে NVIDIA Mellanox MCX4121A-ACAT সার্ভার অ্যাডাপ্টার | RDMA/RoCE লো-লেটেন্সি ট্রান্সপোর্ট ও সার্ভার থ্রুপুট বৃদ্ধি

NVIDIA Mellanox MCX4121A-ACAT সার্ভার অ্যাডাপ্টার অ্যাকশনে | RDMA/RoCE লো-লেটেন্সি ট্রান্সপোর্ট ও সার্ভার থ্রুপুট বৃদ্ধি

পটভূমি ও চ্যালেঞ্জ: যখন 25GbE লেটেন্সি প্রাচীরের সম্মুখীন হয়

একটি মাঝারি আকারের ক্লাউড পরিষেবা প্রদানকারী — আসুন তাদের "CloudNova" বলি — একটি পরিচিত অথচ বেদনাদায়ক বাধা সম্মুখীন হচ্ছিল। তাদের ডেটা সেন্টার 25GbE পরিকাঠামোতে চলত, কিন্তু অ্যাপ্লিকেশন পারফরম্যান্স ভিন্ন গল্প বলছিল। ডেটাবেস প্রতিলিপি পিছিয়ে যাচ্ছিল, ডিস্ট্রিবিউটেড মেশিন লার্নিং জব গ্রেডিয়েন্ট সিঙ্ক্রোনাইজেশনে আটকে যাচ্ছিল, এবং NVMe স্টোরেজ অ্যারে তাদের প্রতিশ্রুত IOPS সরবরাহ করতে পারছিল না। এর কারণ কী? ঐতিহ্যবাহী TCP/IP স্ট্যাকের ওভারহেড তাদের কম্পিউট নোডগুলিতে 25% এর বেশি CPU কোর ব্যবহার করছিল, এবং বিদ্যমান NIC গুলিতে RDMA-এর জন্য হার্ডওয়্যার অফলোড ছিল না। তাদের যা প্রয়োজন ছিল তা কেবল বেশি ব্যান্ডউইথ নয়, বরংব্যবহারযোগ্যব্যান্ডউইথ যা মাইক্রোসেকেন্ড-স্তরের নির্ধারক ক্ষমতা সম্পন্ন। তাদের অনুসন্ধান তাদের নিয়ে যায়NVIDIA Mellanox MCX4121A-ACAT— একটি কার্ড যা বিশেষভাবে এই আধুনিক ডেটা সেন্টারের সমস্যাগুলির জন্য তৈরি করা হয়েছে।

সমাধান: MCX4121A-ACAT ইথারনেট অ্যাডাপ্টার কার্ড স্থাপন

CloudNova-এর আর্কিটেকচার টিম তাদের 120টি কম্পিউট নোডে — প্রতিটিতে ডুয়াল SFP28 পোর্ট সহ — তাদের লিগ্যাসি 10GbE NIC গুলিকেMCX4121A-ACAT ইথারনেট অ্যাডাপ্টার কার্ডদিয়ে প্রতিস্থাপন করে। এই স্থাপনায় অ্যাডাপ্টারের নেটিভ RoCE v2 সমর্থন ব্যবহার করা হয়েছিল, যা লসলেস ইথারনেট ট্রান্সপোর্ট সক্ষম করে এবং পৃথক InfiniBand ফ্যাব্রিকের প্রয়োজনীয়তা দূর করে। সমাধানের মূল চাবিকাঠি ছিলMCX4121A-ACAT ConnectX-4 Lx ডুয়াল-পোর্ট 25GbE SFP28ডিজাইন, যা প্রতি সার্ভারে 50Gb/s অ্যাগ্রিগেট থ্রুপুটের জন্য অ্যাক্টিভ-অ্যাক্টিভ লিঙ্ক বন্ডিংয়ের অনুমতি দেয়। দলটি সুইচ স্তরে PFC (Priority Flow Control) এবং ECN (Explicit Congestion Notification) কনফিগার করেছিল, যা নিশ্চিত করে যে RoCE ট্র্যাফিক সর্বোচ্চ লোডের অধীনেও লসলেস থাকে। দুই সপ্তাহের মধ্যে, সম্পূর্ণ স্টোরেজ এবং কম্পিউট ফ্যাব্রিক RDMA-তে চলছিল — অ্যাডাপ্টারের বিদ্যমান SFP28 ক্যাবলিং এবং Mellanox Spectrum সুইচের সাথে আউট-অফ-দ্য-বক্স সামঞ্জস্যের কারণে এই পরিবর্তনটি নির্বিঘ্ন ছিল।

অপারেশনাল দৃষ্টিকোণ থেকে,MCX4121A-ACAT সামঞ্জস্যপূর্ণইকোসিস্টেম অমূল্য প্রমাণিত হয়েছে। কার্ডগুলি CloudNova-এর Ubuntu-ভিত্তিক সার্ভার এবং Kubernetes ক্লাস্টারের সাথে ত্রুটিহীনভাবে সংহত হয়েছিল, শুধুমাত্র স্ট্যান্ডার্ড ড্রাইভার ইনস্টলেশনের প্রয়োজন হয়েছিল। দলটিMCX4121A-ACAT ডেটাশিটউল্লেখ করে বাফার বরাদ্দ এবং ইন্টারাপ্ট কোয়ালিসিং সেটিংস ফাইন-টিউন করেছিল, তাদের মিশ্র ওয়ার্কলোড পরিবেশের জন্য সর্বোত্তম পারফরম্যান্স অর্জন করেছিল — যার মধ্যে MySQL ক্লাস্টার, Spark অ্যানালিটিক্স এবং TensorFlow প্রশিক্ষণ জব অন্তর্ভুক্ত ছিল।

পরিমাপযোগ্য ফলাফল: থ্রুপুট, লেটেন্সি এবং CPU দক্ষতা

পারফরম্যান্স বৃদ্ধি তাৎক্ষণিক এবং পরিমাপযোগ্য ছিল।NVIDIA Mellanox MCX4121A-ACATএর মাধ্যমে RDMA over RoCE সক্ষম করার সাথে সাথে, স্টোরেজ ব্যাকএন্ডে NVMe-oF রিড লেটেন্সি 85µs থেকে মাত্র 12µs-এ নেমে আসে — একটি 7x উন্নতি। প্রাইমারি এবং স্ট্যান্ডবাই নোডের মধ্যে ডেটাবেস প্রতিলিপি ল্যাগ 320ms থেকে 2ms-এর নিচে নেমে আসে, যা প্রায়-সিঙ্ক্রোনাস ফেইলওভার সক্ষম করে। মেশিন লার্নিং ওয়ার্কলোডের জন্য, ResNet-50 প্রশিক্ষণের জন্য অল-রিডিউস সিঙ্ক্রোনাইজেশন সময় 62% কমে যায়, সামগ্রিক ইপোক প্রশিক্ষণ সময় 4.2 ঘন্টা থেকে 1.6 ঘন্টায় নেমে আসে।

লেটেন্সি ছাড়াও, সার্ভার থ্রুপুট বৃদ্ধিও সমানভাবে আকর্ষণীয় ছিল। হার্ডওয়্যার অফলোড ইঞ্জিন — যার মধ্যে চেকসাম অফলোড, LSO/LRO, এবং VLAN ট্যাগিং অন্তর্ভুক্ত — সমস্ত নোডে নেটওয়ার্ক প্রসেসিংয়ের জন্য CPU ব্যবহার 28% থেকে 5% এর নিচে কমিয়ে দেয়। এটি প্রতি সার্ভারে অ্যাপ্লিকেশন লজিকের জন্য 20টির বেশি CPU কোর মুক্ত করে, সরাসরি কন্টেইনার ঘনত্ব 40% বৃদ্ধি করে।MCX4121A-ACAT স্পেসিফিকেশনঅনুসারে, কার্ডটি প্রতি পোর্টে লাইন-রেট 25GbE সরবরাহ করে যা সাব-1µs লেটেন্সি সহ, এবং CloudNova-এর অভ্যন্তরীণ বেঞ্চমার্কগুলি উৎপাদনে এই সংখ্যাগুলি নিশ্চিত করেছে।

অপারেশনাল সুবিধা: TCO এবং ভবিষ্যতের জন্য প্রস্তুতি

যদিও কাঁচা পারফরম্যান্স সংখ্যা একটি আকর্ষণীয় গল্প বলে, অপারেশনাল লাভও সমানভাবে গুরুত্বপূর্ণ ছিল।MCX4121A-ACAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধানএকটি পৃথক RDMA ফ্যাব্রিকের প্রয়োজনীয়তা দূর করে মোট মালিকানা ব্যয় হ্রাস করেছে (সুইচ পরিকাঠামোতে $180K এর বেশি সাশ্রয়)। প্রতি সার্ভারে বিদ্যুৎ খরচ পূর্ববর্তী NIC গুলির তুলনায় 8W কমেছে, যা বার্ষিক শীতলীকরণ সাশ্রয়ে প্রায় 15% অবদান রেখেছে। অতিরিক্তভাবে, অ্যাডাপ্টারের ডুয়াল-পোর্ট ডিজাইন নেটিভ রিডানডেন্সি প্রদান করেছে — যখন একটি লিঙ্ক ফ্ল্যাপ করে, তখন অ্যাডাপ্টারের টেলিমেট্রি লগ দ্বারা যাচাইকৃত শূন্য প্যাকেট লস সহ ট্র্যাফিক স্বয়ংক্রিয়ভাবে সেকেন্ডারি পোর্টে ফেইলওভার করে।

যারাMCX4121A-ACAT মূল্যবিকল্প সমাধানের তুলনায় মূল্যায়ন করছেন, CloudNova-এর CFO উল্লেখ করেছেন যে পরিশোধের সময়কাল 10 মাসের কম ছিল, যা মূলত সার্ভার ব্যবহারের বৃদ্ধি এবং কাজের সমাপ্তির সময় হ্রাসের কারণে। দলটি ভবিষ্যতের জন্য প্রস্তুত আর্কিটেকচারকেও প্রশংসা করেছে — একইMCX4121A-ACAT বিক্রয়ের জন্যআজ 25GbE সমর্থন করে তবে উপযুক্ত অপটিক্স সহ 10GbE বা 40GbE পরিবেশে পুনরায় ব্যবহার করা যেতে পারে, যা ভবিষ্যতের আপগ্রেডের জন্য বিনিয়োগ সুরক্ষা নিশ্চিত করে।

সারসংক্ষেপ ও পূর্বাভাস: RDMA-রেডি ডেটা সেন্টারগুলির জন্য একটি ব্লুপ্রিন্ট

CloudNova-এরNVIDIA Mellanox MCX4121A-ACATএর সাথে যাত্রা 25GbE পরিকাঠামোর সম্পূর্ণ সম্ভাবনা উন্মোচন করতে চাওয়া সংস্থাগুলির জন্য একটি স্পষ্ট ব্লুপ্রিন্ট প্রদর্শন করে। ডুয়াল-পোর্ট 25GbE থ্রুপুট, হার্ডওয়্যার-অ্যাক্সিলারেটেড RoCE, এবং বিদ্যমান ইকোসিস্টেমের সাথে নির্বিঘ্ন সংহতকরণকে একত্রিত করে,MCX4121A-ACAT ইথারনেট অ্যাডাপ্টার কার্ডনেটওয়ার্ক I/O কে একটি বাধা থেকে পারফরম্যান্স সক্ষমকারীতে রূপান্তরিত করে। ফলাফল — 7x কম স্টোরেজ লেটেন্সি, 83% CPU ওভারহেড হ্রাস, এবং 62% দ্রুত ML প্রশিক্ষণ — পরিমাপযোগ্য ব্যবসায়িক ফলাফল প্রদানের জন্য অ্যাডাপ্টারের ক্ষমতা প্রমাণ করে।

ভবিষ্যতের দিকে তাকিয়ে, যেহেতু AI ওয়ার্কলোড এবং রিয়েল-টাইম অ্যানালিটিক্স নির্ধারক নেটওয়ার্কিংয়ের চাহিদা বাড়িয়ে চলেছে,MCX4121A-ACAT ConnectX-4 Lx ডুয়াল-পোর্ট 25GbE SFP28ফোর্কলিফ্ট আপগ্রেড ছাড়াই RDMA গ্রহণের জন্য একটি শক্তিশালী ভিত্তি সরবরাহ করে। যারা তাদের পরবর্তী পরিকাঠামো রিফ্রেশ পরিকল্পনা করছেন তাদের জন্য আর্কিটেক্ট এবং আইটি নেতাদের জন্য, এই অ্যাডাপ্টারটি কেবল একটি উপাদান নয়, বরং একটি কৌশলগত সম্পদ। বিস্তারিত টিউনিং প্যারামিটার এবং স্থাপনার সেরা অনুশীলনগুলি অফিসিয়ালMCX4121A-ACAT ডেটাশিট— যেকোনো গুরুতর স্থাপনার জন্য একটি অপরিহার্য রেফারেন্স — এ উপলব্ধ।