NVIDIA Mellanox MCX631432AN-ADAB প্রযুক্তিগত সমাধানঃ RDMA/RoCE লো-লেটেন্সি ট্রান্সপোর্ট & সার্ভার থ্রুপুট ইলেভেশন

এই টেকনিক্যাল হোয়াইট পেপারটি নেটওয়ার্ক আর্কিটেক্ট, প্রাক-সেল ইঞ্জিনিয়ার এবং অপারেশন লিডদের জন্য।এনভিডিয়া মেলানোক্স এমসিএক্স৬৩১৪৩২এএন-এডএবিসার্ভার অ্যাডাপ্টারটি RDMA/RoCE-ভিত্তিক কম লেটেন্সি ট্রান্সপোর্ট সক্ষম করে এবং আধুনিক ডেটা সেন্টার পরিবেশে সার্ভারের থ্রুপুটকে নাটকীয়ভাবে উন্নত করে।

প্রচলিত টিসিপি / আইপি নেটওয়ার্কিং প্রোটোকল প্রক্রিয়াকরণ, ডেটা অনুলিপি এবং বিঘ্ন হ্যান্ডলিংয়ের কারণে উল্লেখযোগ্য সিপিইউ ওভারহেড চাপিয়ে দেয়।সার্ভার ঘনত্ব বৃদ্ধি এবং যেমন বিতরণ স্টোরেজ (Ceph, ভিএসএএন), ইন-মেমোরি ডাটাবেস (রেডিস, এয়ারোস্পাইক) এবং এআই প্রশিক্ষণ ফ্রেমওয়ার্কগুলির জন্য একক-অঙ্কের মাইক্রোসেকেন্ডের বিলম্বের প্রয়োজন, traditionalতিহ্যবাহী নেটওয়ার্ক স্ট্যাকগুলি অপ্রতিরোধ্য বোতল ঘাঁটি হয়ে ওঠে।মূল প্রয়োজনীয়তা হল: স্টোরেজ অ্যাক্সেস লেটেন্সি 300μs এর নিচে, নেটওয়ার্ক প্রসেসিংয়ের জন্য CPU ব্যবহার 10% এর নিচে, প্রতি পোর্টে লাইন রেট 25GbE থ্রুপুট এবং বিদ্যমান RoCE- সক্ষম সুইচিং অবকাঠামোর সাথে নির্বিঘ্নে সংহতকরণ.

প্রস্তাবিত আর্কিটেকচারটি RoCE v2 সমর্থন সহ একটি নন-ব্লকিং স্পাইন-লেফ টোপোলজি গ্রহণ করে। প্রতিটি কম্পিউটার বা স্টোরেজ নোডটি迈络思 ((NVIDIA Mellanox) MCX631432AN-ADABঅ্যাডাপ্টার, 25GbE SFP28 অপটিক্সের মাধ্যমে পাতার সুইচগুলির সাথে সংযোগ স্থাপন করে। পাতার সুইচগুলি শেষ থেকে শেষের জনাকীর্ণতা নিয়ন্ত্রণের জন্য DCQCN (ডেটা সেন্টার কোয়ান্টাইজড জঞ্জেশন নোটিফিকেশন) চালায়।কন্ট্রোল প্লেন শুধুমাত্র ক্ষতি অগ্রাধিকারযুক্ত সারিগুলিতে পিএফসি (প্রাথমিকতা প্রবাহ নিয়ন্ত্রণ) ব্যবহার করে, যখন আরডিএমএ ডেটা প্লেনটি স্তর -৩ এর সীমানা অতিক্রম করতে আইপি রাউটিং সহ রস v2 ব্যবহার করে। এই নকশাটি হেড-অফ-লাইন ব্লকিং দূর করে এবং 2000 নোড পর্যন্ত নির্ধারক বিলম্ব নিশ্চিত করে।

দ্যMCX631432AN-ADAB ইথারনেট অ্যাডাপ্টার কার্ডএটি আরডিএমএ অবলোডের জন্য সমালোচনামূলক শেষ পয়েন্ট হিসাবে কাজ করে।MCX631432AN-ADAB ConnectX-6 Lx ডুয়াল পোর্ট 25GbE SFP28সিলিকন হার্ডওয়্যার ভিত্তিক RoCE, ট্যাগ-ম্যাচিং এবং আউট-অফ-অর্ডার প্যাকেট সমাবেশকে একীভূত করে। সফ্টওয়্যার আইডাব্লুএআরপি বা কার্নেল টিসিপির তুলনায়, অ্যাডাপ্টারটি লেটেন্সিকে 70% এরও বেশি হ্রাস করে।আর্কিটেক্টদের জন্যMCX631432AN-ADAB ডেটা শীট, মূল আনলোডগুলির মধ্যে রয়েছেঃ

• RoCE v2 হার্ডওয়্যার ডাউনলোডঃডাটা ট্রান্সমিশন শূন্য কপি, পোর্ট থেকে পোর্ট লেটেন্সি 600ns এর নিচে।
• ফ্লেক্সফ্লো স্টিয়ারিংঃগ্রানুলার ফ্লো বিতরণের জন্য প্রোগ্রামযোগ্য প্যাকেট পার্সার।
• ইনলাইন ক্রিপ্টো ইঞ্জিন:আইপিএসইসি/টিএলএস লাইন রেটে সিপিইউ জড়িত ছাড়া।
• টেলিমেট্রি ও ইসিএন মার্কিংঃSPIFFY কাউন্টারের মাধ্যমে রিয়েল-টাইম ভিজ্যুয়ালাইজেশন।

মূল্যায়ন করার সময়MCX631432AN-ADAB স্পেসিফিকেশন, মনে রাখবেন যে কার্ডটি 25GbE এবং 10GbE উভয় গতি সমর্থন করে, ধাপে ধাপে মাইগ্রেশন করার অনুমতি দেয়।MCX631432AN-ADAB সামঞ্জস্যপূর্ণইকোসিস্টেম সব প্রধান সার্ভার বিক্রেতাদের অন্তর্ভুক্ত, যোগ্যতা সরলীকরণ।

500-নড ক্লাস্টারের জন্য একটি সাধারণ দ্বি-স্তরীয় টপোলজিঃ প্রতিটি র্যাকটিতে 20 টি সার্ভার রয়েছে, প্রতিটিতে একটিএনভিডিয়া মেলানোক্স এমসিএক্স৬৩১৪৩২এএন-এডএবি(উভয় পোর্ট রিডান্ডান্সি বা ব্যান্ডউইথ সমষ্টির জন্য সক্রিয়) । পাতা সুইচগুলি 25GbE SFP28 DAC ক্যাবল (৫ মিটার পর্যন্ত) বা AOC অপটিক্সের মাধ্যমে দীর্ঘ দূরত্বের জন্য সার্ভারের সাথে সংযোগ স্থাপন করে।স্পাইন-লেয়ার 4 বজায় রাখার জন্য 100GbE আপলিংক ব্যবহার করে1:1 ওভারসাবস্ক্রিপশন। স্টোরেজ ট্র্যাফিকের জন্য, RoCE এর সাথে Ceph ব্যাকএন্ড ট্র্যাফিকের জন্য প্রতি অ্যাডাপ্টারে একটি পোর্ট নিবেদিত করুন, দ্বিতীয় পোর্টটি কম্পিউটারের মুখোমুখি ওয়ার্কলোডের জন্য সংরক্ষণ করুন।২০০০ নোডের বাইরে স্কেলিংয়ের জন্য তিন স্তরের সুপার-স্পিন ডিজাইন প্রয়োজন, RoCE রুট প্রসার জন্য BGP-EVPN সঙ্গে।MCX631432AN-ADAB ইথারনেট অ্যাডাপ্টার কার্ড সমাধানবিস্তারিত ক্যাবলিং ম্যাট্রিক্স এবং পাওয়ার বাজেটিংয়ের জন্য গাইড।

পোস্ট-ডিপ্লয়মেন্ট, অপারেশন টিমগুলি এনভিআইডিআইএএস সক্ষম করা উচিতmlx5ctlএবংইথুলরিয়েল-টাইম পোর্ট পরিসংখ্যানের জন্য। পর্যবেক্ষণের জন্য মূল পরিমাপঃ RoCEv2 ট্রান্সমিশন বিরতি (পিএফসি ঝড় নির্দেশ করে), ইসিএন-মার্কযুক্ত প্যাকেট অনুপাত এবং অ্যাডাপ্টারের তাপীয় পাঠ্য। উচ্চ লেটেনসির সমস্যা সমাধানের জন্য,যাচাই করুন যেডিসিকিউসিএন পরামিতি(আলফা, বিটা, এবং হার হ্রাস ফ্যাক্টর) সুইচ বাফার প্রোফাইলের সাথে সারিবদ্ধ।MCX631432AN-ADAB ডেটা শীট"out_of_seq" এবং "retransmissions" এর মত উন্নত কাউন্টার ব্যাখ্যা করতে।/sys/class/infiniband/mlx5_*/ports/*/counter/খরচ পরিকল্পনা করার জন্য, ক্রয় দলগুলিMCX631432AN-ADAB দামঅনুমান এবং চেকবিক্রির জন্য MCX631432AN-ADABঅনুমোদিত পরিবেশকদের মাধ্যমে তালিকাভুক্ত করা হয়; ভলিউম মূল্য 100 ইউনিট অর্ডার জন্য উপলব্ধ।

দ্যMCX631432AN-ADABএটি একটি আকর্ষণীয় মান প্রস্তাব প্রদান করেঃ 300μs এর নিচে স্টোরেজ বিলম্ব, 25GbE লাইন রেট ট্র্যাফিকের জন্য 5% এরও কম CPU ওভারহেড এবং অ্যাপ্লিকেশন পরিবর্তন ছাড়াই সম্পূর্ণ RoCE v2 অফলোড।আরডিএমএ ট্রান্সপোর্টের সাথে পুরানো টিসিপি স্ট্যাকগুলি প্রতিস্থাপন করে, সংস্থাগুলি ব্যবসায়-সমালোচনামূলক ওয়ার্কলোডের জন্য 30% পর্যন্ত মূল ক্ষমতা পুনরুদ্ধার করতে পারে।ConnectX-6 Lx আর্কিটেকচার উন্নত প্রোগ্রামযোগ্য পাইপলাইন এবং টেলিমেট্রি গভীরতা প্রদান করেএই প্রযুক্তিগত সমাধানটি ক্লাউড স্টোরেজ, এইচপিসি সিমুলেশন এবং রিয়েল-টাইম বিশ্লেষণ জুড়ে উত্পাদন পরিবেশে বৈধ করা হয়েছে।এনভিডিয়া মেলানোক্স এমসিএক্স৬৩১৪৩২এএন-এডএবিএটি নিম্ন-ল্যাটেনসি, উচ্চ-থ্রুপুট সার্ভার নেটওয়ার্কিংয়ের জন্য ভবিষ্যতের প্রমাণ, ব্যয়-কার্যকর ভিত্তি।