মেলানক্স (এনভিআইডিআইএ মেলানক্স) এমসিএক্স 556 এ-ইসিএটি সার্ভার এনআইসি প্রযুক্তিগত সমাধান

এই শ্বেতপত্রটি নেটওয়ার্ক আর্কিটেক্ট, প্রাক-বিক্রয় প্রকৌশলী এবং অপারেশন লিডারদের মোতায়েন করার জন্য একটি ব্যাপক প্রযুক্তিগত কাঠামো প্রদান করে।Mellanox (NVIDIA Mellanox) MCX556A-ECATসার্ভার নেটওয়ার্ক অ্যাডাপ্টার। সমাধানটি RDMA/RoCE-এর মাধ্যমে TCP/IP বাধাগুলি দূর করার উপর দৃষ্টি নিবদ্ধ করে, ডেটা-নিবিড় কাজের চাপের জন্য সার্ভার থ্রুপুট সর্বাধিক করার সময় নির্ধারক স্বল্প-বিলম্বিত যোগাযোগ সরবরাহ করে।

1. প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

আধুনিক ডেটা সেন্টার এনভায়রনমেন্ট-এআই ট্রেনিং ক্লাস্টার, ডিস্ট্রিবিউটেড ডাটাবেস, হাইপারকনভারজড ইনফ্রাস্ট্রাকচার, এবং হাই-ফ্রিকোয়েন্সি ট্রেডিং প্ল্যাটফর্মগুলি-একটি সাধারণ সীমাবদ্ধতা শেয়ার করে: ঐতিহ্যগত নেটওয়ার্ক স্ট্যাক মেমরি কপি, কনটেক্সট সুইচ এবং প্রোটোকল প্রক্রিয়াকরণে 30-50% CPU চক্র ব্যবহার করে। যেহেতু লিঙ্কের গতি 100Gbps এবং তার পরেও বেড়ে যায়, সফ্টওয়্যার-ভিত্তিক নেটওয়ার্কিং অস্থিতিশীল হয়ে ওঠে। পরবর্তী প্রজন্মের সার্ভার সংযোগের জন্য মূল প্রয়োজনীয়তাগুলির মধ্যে রয়েছে: সাব-5 মাইক্রোসেকেন্ড আন্তঃ-নোড লেটেন্সি, প্রতি 100Gbps লিঙ্কে 10% এর নিচে CPU ওভারহেড, স্টোরেজ প্রোটোকলের জন্য ক্ষতিহীন পরিবহন (NVMe-oF), এবং বিদ্যমান ইথারনেট পরিকাঠামোর সাথে বিরামহীন একীকরণ। দMCX556A-ECAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধানসরাসরি এই দাবিগুলি সমাধান করে।

2. সামগ্রিক নেটওয়ার্ক/সিস্টেম আর্কিটেকচার ডিজাইন

প্রস্তাবিত স্থাপত্য স্থাপনNVIDIA Mellanox MCX556A-ECATপ্রতিটি গণনা বা স্টোরেজ নোডে ডুয়াল-পোর্ট 100GbE অ্যাডাপ্টার হিসাবে। সমাধানটি RoCE (RDMA ওভার কনভার্জড ইথারনেট) সমর্থন সহ একটি দ্বি-স্তরের পাতা-মেরুদণ্ডী টপোলজি গ্রহণ করে। মূল স্থাপত্য সিদ্ধান্তের মধ্যে রয়েছে:

• লসলেস ইথারনেট ফাউন্ডেশন: RoCE ট্র্যাফিক বহনকারী পোর্টগুলিতে অগ্রাধিকার প্রবাহ নিয়ন্ত্রণ (PFC) সক্ষম করুন এবং পাতার সুইচগুলিতে ECN (স্পষ্ট কনজেশন বিজ্ঞপ্তি) থ্রেশহোল্ডগুলি কনফিগার করুন৷
• আলাদা ট্রাফিক ক্লাস: কঠোর অগ্রাধিকারের সময়সূচী সহ একটি উত্সর্গীকৃত অগ্রাধিকার সারিতে (সাধারণত 3 বা 5) RoCE ট্র্যাফিক বরাদ্দ করুন৷
• বাফার ব্যবস্থাপনা: সুইচ অনুযায়ী ভাগ করা বাফার পুল বরাদ্দMCX556A-ECAT স্পেসিফিকেশন(ক্ষতিহীন অপারেশনের জন্য প্রতি পোর্টে 4MB প্রস্তাবিত)।

প্রতিটিMCX556A-ECAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ডQSFP28 অপটিক্স (SR4, LR4, বা AOC/DAC দূরত্বের উপর নির্ভর করে) মাধ্যমে একটি পাতার সুইচের সাথে সংযোগ করে। উচ্চ প্রাপ্যতার জন্য, ডুয়াল-হোমিং কনফিগারেশন উভয় পোর্টকে বন্ধন করে—থ্রুপুটের জন্য সক্রিয়-সক্রিয় বা ব্যর্থতার জন্য সক্রিয়-স্ট্যান্ডবাই। কন্ট্রোল প্লেন স্ট্যান্ডার্ড ইথারনেট এবং আইপি ব্যবহার করে, যখন ডেটা প্লেন শূন্য-কপি স্থানান্তরের জন্য RDMA ব্যবহার করে।

3. সমাধানে Mellanox (NVIDIA Mellanox) MCX556A-ECAT-এর ভূমিকা ও মূল বৈশিষ্ট্য

দMCX556A-ECATসার্ভার মেমরি এবং নেটওয়ার্ক ফ্যাব্রিকের মধ্যে গুরুত্বপূর্ণ অফলোড ইঞ্জিন হিসাবে কাজ করে। এর হার্ডওয়্যার-ভিত্তিক পরিবহন ডেটা চলাচলের জন্য কার্নেল জড়িততা দূর করে। মূল ক্ষমতা থেকে নিষ্কাশিতMCX556A-ECAT ডেটাশীটঅন্তর্ভুক্ত:

দMCX556A-ECAT ইথারনেট অ্যাডাপ্টার কার্ডএছাড়াও উন্নত স্টিয়ারিং (128টি ভার্চুয়াল সারিতে প্রবাহ শ্রেণীবিভাগ), 512 পর্যন্ত ভার্চুয়াল ফাংশন সহ SR-IOV, এবং যথার্থ সময় প্রোটোকল (PTP) এর জন্য হার্ডওয়্যার টাইমার অফলোড অন্তর্ভুক্ত। এই বৈশিষ্ট্যগুলি এটিকে একটি সম্পূর্ণ ডেটা পাথ অ্যাক্সিলারেশন ইঞ্জিন করে তোলে, শুধুমাত্র একটি উচ্চ-গতির ইন্টারফেস নয়।

4. স্থাপনা এবং স্কেলিং সুপারিশ (সাধারণ টপোলজি)

একটি মাঝারি আকারের ক্লাস্টারের জন্য (64-256 নোড), নিম্নলিখিত টপোলজি সুপারিশ করা হয়:

• পাতার স্তর: দুই বা চারটি 48-পোর্ট 100GbE RoCE সুইচ (যেমন, NVIDIA SN3700)। প্রতিটি পাতা 24-48 সার্ভারের সাথে সংযোগ করেMCX556A-ECAT সামঞ্জস্যপূর্ণQSFP28 পোর্ট।
• মেরুদণ্ডের স্তর: চারটি 32-পোর্ট 400GbE সুইচ পাতা থেকে 128টি নন-ব্লকিং 100GbE আপলিঙ্ক প্রদান করে।
• সার্ভার কনফিগারেশন: একMCX556A-ECATসার্ভার প্রতি, পোর্ট A থেকে পাতার সুইচ A, পোর্ট B থেকে পাতার সুইচ B। এটি 200Gbps সামগ্রিক ব্যান্ডউইথ এবং পাথ রিডানডেন্সি দেয়।

256 নোডের বাইরে ফ্যাব্রিক স্কেল করার জন্য পাতা-মেরুদন্ডের জোড়া যোগ করা বা একটি 3-পর্যায়ের Clos আর্কিটেকচারে স্থানান্তর করা প্রয়োজন। মূল্যায়ন করার সময়MCX556A-ECAT মূল্যভবিষ্যৎ ক্ষমতার বিপরীতে, অ্যাডাপ্টারের ফ্যাক্টরMCX556A-ECAT সামঞ্জস্যপূর্ণPCIe 4.0 মাদারবোর্ডের সাথে (প্রাথমিকভাবে 3.0 x16 এ চলছে), একটি সোজা আপগ্রেড পাথ অফার করে।

5. অপারেশন, মনিটরিং, ট্রাবলশুটিং এবং অপ্টিমাইজেশান

RoCE স্থাপনার জন্য অপারেশনাল শ্রেষ্ঠত্বের জন্য নির্দিষ্ট পর্যবেক্ষণ এবং টিউনিং প্রয়োজন। মূল অনুশীলন অন্তর্ভুক্ত:

• মনিটরিং কাউন্টার: ব্যবহার করুনethtool -S ethX | grep -E "roce|pfc|ecn"অগ্রাধিকার পজ ফ্রেম এবং CNP (কনজেশন নোটিফিকেশন প্যাকেট) ট্র্যাক করতে। দMCX556A-ECAT স্পেসিফিকেশননথি প্রত্যাশিত বেসলাইন মান.
• বাফার টিউনিং: RoCE সারিগুলির জন্য 4-6MB এ সুইচ এগ্রেস বাফারগুলি কনফিগার করুন৷ অপর্যাপ্ত বাফারগুলি PFC ঝড় এবং থ্রুপুট পতন ঘটায়।
• ফার্মওয়্যার ব্যবস্থাপনা: ত্রুটি-বিচ্যুতি মোকাবেলা করতে সর্বশেষ ফার্মওয়্যার (NVIDIA এন্টারপ্রাইজ সমর্থন পোর্টাল থেকে উপলব্ধ) বজায় রাখুন এবং এতে নথিভুক্ত কর্মক্ষমতা বৃদ্ধি পেতেMCX556A-ECAT ডেটাশীট.
• কর্মক্ষমতা বেসলাইন: দৌড়ib_write_bwএবংib_read_latOFED টুলকিট থেকে। প্রত্যাশিত ফলাফল: 8-বাইট বার্তাগুলির জন্য 0.8-1.2 µs লেটেন্সি সহ 98-99 Gbps দ্বিমুখী।

সাধারণ সমস্যা সমাধানের পরিস্থিতি: PFC অচলাবস্থা (মিসকনফিগার করা কিউ ম্যাপিংয়ের জন্য পরীক্ষা করুন), লিঙ্ক ফ্ল্যাপিং (পাওয়ার এবং তারের রেটিং যাচাই করুন), এবং RDMA সংযোগের সময়সীমা (জাম্বো ফ্রেমের জন্য 4200 বাইটে MTU সামঞ্জস্য নিশ্চিত করুন)। দল অনুসন্ধানের জন্যMCX556A-ECAT বিক্রয়ের জন্যক্লাস্টারগুলি প্রসারিত করতে, ব্যাচ জুড়ে প্রাক-মঞ্চায়ন ফার্মওয়্যার প্রান্তিককরণ সামঞ্জস্যের বিস্ময় এড়ায়।

6. সারাংশ এবং মূল্য মূল্যায়ন

দMCX556A-ECATআধুনিক তথ্য কেন্দ্রগুলির জন্য একটি স্পষ্ট মূল্য প্রস্তাব প্রদান করে। RDMA/RoCE সক্ষম করে,NVIDIA Mellanox MCX556A-ECATTCP-এর তুলনায় অ্যাপ্লিকেশন লেটেন্সি 10x কমায়, CPU নেটওয়ার্কিং ওভারহেড 85% কম করে এবং NVMe-oF এর মাধ্যমে স্টোরেজ ডিস্যাগ্রিগেশন আনলক করে। স্থপতিদের জন্য, কার্ডের ডুয়াল-পোর্ট 100GbE ক্ষমতা ভবিষ্যতের হেডরুম প্রদান করে; অপারেশন টিমের জন্য, পরিপক্ক ড্রাইভার স্ট্যাক (আপস্ট্রিম লিনাক্স, উইন্ডোজ এবং ভিএমওয়্যার) ব্যবস্থাপনাকে সহজ করে। মূল্যায়ন করার সময়MCX556A-ECAT মূল্যসফ্টওয়্যার লাইসেন্সিং, পাওয়ার এবং কুলিং সহ মালিকানার মোট খরচের সাথে সম্পর্কিত- অ্যাডাপ্টার সাধারণত সার্ভার একত্রীকরণের মাধ্যমে 6-12 মাসের মধ্যে নিজের জন্য অর্থ প্রদান করে। একটি হিসাবে উল্লেখ করা হয় কিনাMCX556A-ECAT ইথারনেট অ্যাডাপ্টার কার্ডবাMCX556A-ECAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ড, এই সমাধানটি ক্ষতিহীন, উচ্চ-থ্রুপুট ইথারনেট নেটওয়ার্কিংয়ের জন্য একটি রেফারেন্স ডিজাইন হিসাবে রয়ে গেছে।