NVIDIA Mellanox MCX631432AN-ADAB সার্ভার অ্যাডাপ্টার অ্যাকশনে | RDMA/RoCE লো-লেটেন্সি ট্রান্সপোর্ট ও সার্ভার থ্রুপুট বৃদ্ধি

NVIDIA Mellanox MCX631432AN-ADAB সার্ভার অ্যাডাপ্টার অ্যাকশনে | RDMA/RoCE লো-লেটেন্সি ট্রান্সপোর্ট ও সার্ভার থ্রুপুট বৃদ্ধি

পটভূমি ও চ্যালেঞ্জ: ডিস্ট্রিবিউটেড স্টোরেজে লেটেন্সি বাধা

একটি বড় ইন্টারনেট কোম্পানির ইনফ্রাস্ট্রাকচার টিম সম্প্রতি একটি পরিচিত চ্যালেঞ্জের সম্মুখীন হয়েছিল: তাদের ডিস্ট্রিবিউটেড স্টোরেজ ক্লাস্টার, যা একটি Ceph ব্যাকএন্ডের উপর নির্মিত, ক্রমবর্ধমান অ্যাপ্লিকেশন চাহিদা মেটাতে হিমশিম খাচ্ছিল। স্টোরেজ নোডগুলিতে শক্তিশালী সিপিইউ এবং দ্রুত NVMe ড্রাইভ থাকা সত্ত্বেও, নেটওয়ার্ক লেটেন্সি প্রধান বাধা হয়ে দাঁড়িয়েছিল — বিশেষ করে পিক I/O অপারেশনের সময়। বিদ্যমান 10GbE অ্যাডাপ্টারগুলিতে হার্ডওয়্যার অফলোড ক্ষমতা ছিল না, যার ফলে প্রতিটি প্যাকেট প্রক্রিয়াকরণের জন্য অতিরিক্ত সিপিইউ হস্তক্ষেপের প্রয়োজন হত।

এই ওভারহেডটি রাইট-ইনটেনসিভ ওয়ার্কলোডগুলিতে সবচেয়ে বেশি স্পষ্ট ছিল, যেখানে প্রতিটি I/O অপারেশনের জন্য একাধিক নেটওয়ার্ক রাউন্ড ট্রিপের প্রয়োজন হত। টিমের এমন একটি সমাধানের প্রয়োজন ছিল যা তাদের বিদ্যমান ইথারনেট ইনফ্রাস্ট্রাকচারের সম্পূর্ণ পরিবর্তন ছাড়াই টেইল লেটেন্সি নাটকীয়ভাবে কমাতে এবং সামগ্রিক সার্ভার থ্রুপুট বাড়াতে পারে। একাধিক বিকল্প মূল্যায়ন করার পর, তারা ভবিষ্যতের দিকে তাকিয়ে, টিম অ্যাডাপ্টারগুলির জন্য অতিরিক্ত ব্যবহারের ক্ষেত্রগুলি অন্বেষণ করছে, যার মধ্যে উচ্চ-পারফরম্যান্স ব্লক স্টোরেজের জন্য NVMe over Fabrics (NVMe-oF) এবং সম্ভবত AI প্রশিক্ষণের ওয়ার্কলোডগুলির জন্য GPUDirect অন্তর্ভুক্ত রয়েছে। ConnectX-6 Lx আর্কিটেকচারের নমনীয়তা নিশ্চিত করে যে একই — RDMA over Converged Ethernet (RoCE) স্থাপনার জন্য তৈরি একটি ডুয়াল-পোর্ট 25GbE SFP28 অ্যাডাপ্টারের দিকে ঝুঁকেছিল।

সমাধান ও স্থাপন: ConnectX-6 Lx দিয়ে RoCE স্থাপন

স্থাপনটি Ceph ক্লাস্টারের মধ্যে তিনটি স্টোরেজ নোডকে লক্ষ্য করে করা হয়েছিল যা মেটাডেটা সার্ভার হিসাবে কাজ করে, যেখানে লেটেন্সি সংবেদনশীলতা সবচেয়ে বেশি। প্রতিটি নোডে MCX631432AN-ADAB ConnectX-6 Lx ডুয়াল-পোর্ট 25GbE SFP28 অ্যাডাপ্টার লাগানো হয়েছিল, যা RoCEv2 সমর্থন সহ একটি 25GbE টপ-অফ-র্যাক সুইচের সাথে সংযুক্ত ছিল। টিম মোট 50Gb/s ব্যান্ডউইথ একত্রিত করার জন্য এবং ফেইলওভার রিডান্ডেন্সি প্রদানের জন্য উভয় পোর্টকে অ্যাক্টিভ-অ্যাক্টিভ বন্ডিং মোডে কনফিগার করেছিল।

বাস্তবায়নের একটি গুরুত্বপূর্ণ দিক ছিল লসলেস নেটওয়ার্ক আচরণ নিশ্চিত করার জন্য প্রায়োরিটি ফ্লো কন্ট্রোল (PFC) এবং এক্সপ্লিসিট কনজেশন নোটিফিকেশন (ECN) সহ RoCEv2 সক্ষম করা। এই উন্নত কনজেশন ম্যানেজমেন্ট মেকানিজমগুলিকে নেটিভভাবে সমর্থন করে, যার ফলে মালিকানাধীন সুইচ বা অতিরিক্ত লাইসেন্সের প্রয়োজন হয় না। টিম প্রাথমিক বার্ন-ইন ফেজের সময় ফ্যাব্রিক স্বাস্থ্য রিয়েল-টাইমে নিরীক্ষণ করার জন্য অ্যাডাপ্টারের বিল্ট-ইন হার্ডওয়্যার টাইমস্ট্যাম্প এবং টেলিমেট্রি কাউন্টারগুলিও ব্যবহার করেছিল।

অনুসারে, অ্যাডাপ্টারটি PCIe Gen 4.0 x8 সমর্থন করে, যা ডুয়াল 25GbE পোর্টগুলিকে হোস্ট বাসের বাধা ছাড়াই সম্পূর্ণরূপে স্যাচুরেট করার জন্য অপরিহার্য প্রমাণিত হয়েছিল। বিদ্যমান সার্ভারগুলি ইতিমধ্যেই Gen 4.0-সক্ষম ছিল, যা আপগ্রেডকে সহজ করে তুলেছিল। PCIe Gen 3.0 ব্যবহারকারী পরিবেশের জন্য, অ্যাডাপ্টারটি ব্যাকওয়ার্ড কম্প্যাটিবিলিটির সাথে সম্পূর্ণ MCX631432AN-ADAB সামঞ্জস্যপূর্ণ — একটি নমনীয়তা যা পর্যায়ক্রমিক রোলআউট পরিকল্পনাকে সহজ করে তুলেছিল।স্থাপন প্রক্রিয়াটি উল্লেখযোগ্যভাবে সহজতর হয়েছিল। NVIDIA নেটওয়ার্কিং ড্রাইভার স্ট্যাকের সাথে, অ্যাডাপ্টারগুলি CentOS 8 পরিবেশে অবিলম্বে স্বীকৃত হয়েছিল। টিম তাদের নির্দিষ্ট ওয়ার্কলোড প্যাটার্নের সাথে অ্যাডাপ্টারের আচরণকে সূক্ষ্মভাবে টিউন করার জন্য বাফার বরাদ্দ এবং ইন্টারাপ্ট কোয়ালেসিং সেটিংস ফাইন-টিউন করতে অফিসিয়াল MCX631432AN-ADAB স্পেসিফিকেশন

ব্যবহার করেছিল।সারসংক্ষেপ ও পূর্বাভাস: ভবিষ্যতের স্কেলের জন্য একটি ভিত্তিকর্মক্ষমতা বৃদ্ধি তাৎক্ষণিক এবং পরিমাপযোগ্য ছিল। নীচের টেবিলটি

NVIDIA Mellanox MCX631432AN-ADAB

স্থাপনের আগে এবং পরে মূল মেট্রিকগুলির তুলনা করে:ভবিষ্যতের দিকে তাকিয়ে, টিম অ্যাডাপ্টারগুলির জন্য অতিরিক্ত ব্যবহারের ক্ষেত্রগুলি অন্বেষণ করছে, যার মধ্যে উচ্চ-পারফরম্যান্স ব্লক স্টোরেজের জন্য NVMe over Fabrics (NVMe-oF) এবং সম্ভবত AI প্রশিক্ষণের ওয়ার্কলোডগুলির জন্য GPUDirect অন্তর্ভুক্ত রয়েছে। ConnectX-6 Lx আর্কিটেকচারের নমনীয়তা নিশ্চিত করে যে একই আগে (10GbE/TCP)

দ্বারা প্রদত্ত হার্ডওয়্যার অফলোডগুলি সিপিইউ ওভারহেডকে এত উল্লেখযোগ্যভাবে কমিয়ে দিয়েছে যে নোডগুলি সিপিইউ স্যাচুরেশনে পৌঁছানোর আগে প্রায় 60% বেশি IOPS পরিচালনা করতে পারত, কার্যকরভাবে একটি পরিকল্পিত হার্ডওয়্যার রিফ্রেশ চক্রকে বিলম্বিত করে।নেটওয়ার্ক অপারেশন টিমের জন্য, অ্যাডাপ্টারের বিল্ট-ইন টেলিমেট্রি এবং MCX631432AN-ADAB স্পেসিফিকেশন

এর মাধ্যমে রিয়েল-টাইম পারফরম্যান্স কাউন্টারগুলিতে অ্যাক্সেস করার ক্ষমতা সমস্যা সমাধান এবং ক্ষমতা পরিকল্পনাকে উল্লেখযোগ্যভাবে সহজ করে তুলেছে। টিম প্রোডাকশন ওয়ার্কলোডকে প্রভাবিত করার আগে মাইক্রো-বার্স্ট এবং কিউ ডেপথ সমস্যাগুলি সনাক্ত করতে পারত।সারসংক্ষেপ ও পূর্বাভাস: ভবিষ্যতের স্কেলের জন্য একটি ভিত্তিএই স্থাপনটি নিশ্চিত করেছে যে

NVIDIA Mellanox MCX631432AN-ADAB

কেবল একটি ক্রমবর্ধমান আপগ্রেড নয় বরং লেটেন্সি-সংবেদনশীল ডিস্ট্রিবিউটেড সিস্টেমগুলির জন্য একটি রূপান্তরমূলক উপাদান। RoCE-এর সম্পূর্ণ সম্ভাবনা উন্মোচন করে, অ্যাডাপ্টারটি গড় এবং টেইল লেটেন্সি উভয়ই উল্লেখযোগ্যভাবে হ্রাস করেছে এবং একই সাথে সামগ্রিক সার্ভার থ্রুপুট প্রায় 6 গুণ বাড়িয়েছে। মুক্ত হওয়া সিপিইউ চক্রগুলি এখন অ্যাপ্লিকেশন-স্তরের প্রক্রিয়াকরণে পুনরায় বরাদ্দ করা হচ্ছে, যা ক্লাস্টারের সামগ্রিক দক্ষতা আরও উন্নত করছে।ভবিষ্যতের দিকে তাকিয়ে, টিম অ্যাডাপ্টারগুলির জন্য অতিরিক্ত ব্যবহারের ক্ষেত্রগুলি অন্বেষণ করছে, যার মধ্যে উচ্চ-পারফরম্যান্স ব্লক স্টোরেজের জন্য NVMe over Fabrics (NVMe-oF) এবং সম্ভবত AI প্রশিক্ষণের ওয়ার্কলোডগুলির জন্য GPUDirect অন্তর্ভুক্ত রয়েছে। ConnectX-6 Lx আর্কিটেকচারের নমনীয়তা নিশ্চিত করে যে একই MCX631432AN-ADAB

হার্ডওয়্যার প্রতিস্থাপন ছাড়াই এই ক্রমবর্ধমান চাহিদাগুলি সমর্থন করতে পারে। যারা অনুরূপ আপগ্রেড পথের মূল্যায়ন করছেন তাদের জন্য, MCX631432AN-ADAB মূল্য, অপারেশনাল সঞ্চয় এবং কর্মক্ষমতা বৃদ্ধির বিপরীতে ওজন করলে, একটি বাধ্যতামূলক ব্যবসায়িক কেস উপস্থাপন করে।টিমের অভিজ্ঞতা একটি বৃহত্তর প্রবণতাকে তুলে ধরে: ডেটা সেন্টারগুলি ক্রমবর্ধমানভাবে 25GbE এবং উচ্চতর ফ্যাব্রিকে গ্রহণ করার সাথে সাথে সার্ভার অ্যাডাপ্টারের পছন্দ একটি গুরুত্বপূর্ণ স্থাপত্য সিদ্ধান্ত হয়ে ওঠে। MCX631432AN-ADAB ইথারনেট অ্যাডাপ্টার কার্ড

বিদ্যমান ইনফ্রাস্ট্রাকচার এবং পরবর্তী প্রজন্মের কর্মক্ষমতা চাহিদার মধ্যে ব্যবধান পূরণ করতে চায় তাদের জন্য একটি প্রমাণিত, প্রোডাকশন-রেডি সমাধান সরবরাহ করে।