NVIDIA Mellanox MCX653106A-HDAT সার্ভার অ্যাডাপ্টার প্রযুক্তিগত সমাধান

NVIDIA Mellanox MCX653106A-HDAT সার্ভার অ্যাডাপ্টার প্রযুক্তিগত সমাধান: RDMA/RoCE লো-লেটেন্সি ট্রান্সপোর্ট এবং সার্ভার থ্রুপুট এনহ্যান্সমেন্ট আর্কিটেকচার

১. প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

কৃত্রিম বুদ্ধিমত্তা, উচ্চ-কার্যকারিতা কম্পিউটিং এবং রিয়েল-টাইম অ্যানালিটিক্স সমর্থনকারী আধুনিক ডেটা সেন্টারগুলি চাহিদাযুক্ত প্রয়োজনীয়তার একটি সঙ্গম সম্মুখীন হয়: বিশাল ব্যান্ডউইথ, মাইক্রোসেকেন্ড-স্কেল লেটেন্সি, ডিটারমিনিস্টিক পারফরম্যান্স এবং বুদ্ধিমান ডেটা-পাথ প্রসেসিং। TCP/IP এবং স্ট্যান্ডার্ড ইথারনেটের উপর নির্মিত ঐতিহ্যবাহী নেটওয়ার্ক আর্কিটেকচারগুলি ধারাবাহিকভাবে এই চাহিদাগুলি পূরণ করতে ব্যর্থ হয় — অপ্রত্যাশিত লেটেন্সি জিটার প্রবর্তন করে, প্রোটোকল প্রসেসিংয়ের জন্য অতিরিক্ত CPU সংস্থান ব্যবহার করে এবং ওয়ার্কলোড-নির্দিষ্ট অপ্টিমাইজেশনের জন্য প্রয়োজনীয় প্রোগ্রামেবিলিটির অভাব থাকে। ক্লাস্টারগুলি কয়েক ডজন থেকে শত শত নোডে স্কেল করার সাথে সাথে, এই সীমাবদ্ধতাগুলি একত্রিত হয়, যার ফলে গুরুতর পারফরম্যান্স অবনতি এবং অদক্ষ সংস্থান ব্যবহার হয়।

উন্নত সার্ভার অ্যাডাপ্টার গ্রহণের চালিকাশক্তি মূল এন্টারপ্রাইজ প্রয়োজনীয়তাগুলির মধ্যে রয়েছে:

• স্কেলে আল্ট্রা-লো লেটেন্সি: ডিস্ট্রিবিউটেড ট্রেনিং জবগুলির জন্য GPU ইউটিলাইজেশন ৯০% এর উপরে বজায় রাখার জন্য শত শত নোডে ৫০ মাইক্রোসেকেন্ডের নিচে কালেক্টিভ কমিউনিকেশন লেটেন্সি প্রয়োজন।
• বেসিক নেটওয়ার্কিংয়ের বাইরে CPU অফলোড: অ্যাপ্লিকেশন ওয়ার্কলোডগুলির জন্য ক্ষমতা সংরক্ষণের জন্য নেটওয়ার্ক প্রসেসিং প্রতি নোডে ৮% এর কম CPU সংস্থান ব্যবহার করতে হবে।
• লাইন-রেট নিরাপত্তা: ডেটা-ইন-ট্রানজিট এনক্রিপশন থ্রুপুটকে আপোস না করে বা উল্লেখযোগ্য লেটেন্সি যোগ না করে ওয়্যার স্পিডে সম্পাদিত হতে হবে।
• প্রোগ্রামেবল ডেটা পাথ: অ্যাডাপ্টারগুলিকে বিকশিত ওয়ার্কলোড প্যাটার্ন এবং প্রোটোকল উদ্ভাবনের সাথে মানিয়ে নিতে কাস্টম ট্র্যাফিক স্টিয়ারিং এবং প্যাকেট প্রসেসিং সমর্থন করতে হবে।
• নির্বিঘ্ন স্কেলেবিলিটি: পরিকাঠামোকে কর্মক্ষমতা বৃদ্ধি এবং অপারেশনাল জটিলতা বিস্ফোরণ ছাড়াই কয়েক ডজন থেকে শত শত নোডে স্কেল করতে হবে।

২. সামগ্রিক নেটওয়ার্ক/সিস্টেম আর্কিটেকচার ডিজাইন

প্রস্তাবিত আর্কিটেকচার RoCEv2 ট্রান্সপোর্টের জন্য অপ্টিমাইজ করা একটি উচ্চ-কার্যকারিতা লিফ-স্পাইন টপোলজি ব্যবহার করে। এই ডিজাইনের কেন্দ্রে রয়েছে MCX653106A-HDAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধান, যা প্রতিটি সার্ভার নোডে স্থাপন করা হয়েছে আল্ট্রা-হাই-ব্যান্ডউইথ সংযোগ এবং উন্নত অফলোড ক্ষমতা সরবরাহ করার জন্য।

আর্কিটেকচার স্তর: প্রতিটি সার্ভার একটি MCX653106A-HDAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ড দিয়ে সজ্জিত, যা ডুয়াল-পোর্ট 100GbE সংযোগের সাথে কনফিগার করা হয়েছে। উভয় পোর্ট সক্রিয়-সক্রিয় মোডে কাজ করে, হার্ডওয়্যার-ভিত্তিক লোড ব্যালেন্সিং এবং ফেইলওভার সহ ২০০ Gb/s অ্যাগ্রিগেট থ্রুপুট সরবরাহ করে। অ্যাডাপ্টারের PCIe 4.0 x16 ইন্টারফেস ৩২ GT/s ব্যান্ডউইথ সরবরাহ করে, হোস্ট-সাইড বাধা দূর করে।

লিফ লেয়ার:

• NVIDIA Spectrum-4 সুইচগুলি উন্নত RoCE-সচেতন কনজেশন কন্ট্রোল (PFC, ECN, এবং DCQCN) সহ লো-লেটেন্সি, লসলেস ইথারনেট ফরওয়ার্ডিং সরবরাহ করে। এই সুইচগুলি ৪০০GbE আপলিঙ্ক সমর্থন করে এবং ফ্যাব্রিক ভিজিবিলিটির জন্য ব্যাপক টেলিমেট্রি সরবরাহ করে।স্পাইন লেয়ার:লাইফসাইকেল ব্যবস্থাপনা:ব্যবস্থাপনা এবং অর্কেস্ট্রেশন:
• NVIDIA DOCA এবং MLNX-OS পুরো স্ট্যাক জুড়ে ইউনিফাইড ম্যানেজমেন্ট, টেলিমেট্রি সংগ্রহ, কনফিগারেশন অর্কেস্ট্রেশন এবং জিরো-টাচ প্রভিশনিং সরবরাহ করে।আর্কিটেকচার SR-IOV এবং eSwitch অফলোডের মাধ্যমে হার্ডওয়্যার-ভিত্তিক নেটওয়ার্ক ভার্চুয়ালাইজেশন অন্তর্ভুক্ত করে, যা কর্মক্ষমতাকে আপোস না করে দক্ষ মাল্টি-টেন্যান্ট আইসোলেশনের জন্য প্রতি অ্যাডাপ্টারে ১,০০০ ভার্চুয়াল ফাংশন পর্যন্ত সমর্থন করে।
• ৩. সমাধানে NVIDIA Mellanox MCX653106A-HDAT এর ভূমিকা এবং মূল বৈশিষ্ট্যNVIDIA Mellanox MCX653106A-HDAT কম্পিউট/স্টোরেজ রিসোর্স এবং নেটওয়ার্ক ফ্যাব্রিকের মধ্যে গুরুত্বপূর্ণ ইন্টারফেস হিসাবে কাজ করে। এর উন্নত বৈশিষ্ট্য সেট সামগ্রিক আর্কিটেকচারের কর্মক্ষমতা এবং দক্ষতার উদ্দেশ্যগুলি সক্ষম করে:
• বৈশিষ্ট্যপ্রযুক্তিগত ক্ষমতা

ব্যবসায়িক সুবিধা

ডুয়াল-পোর্ট 100GbE

RDMA/RoCEv2 অফলোড

পর্যায় ৩ — ফ্যাব্রিক-ওয়াইড রোলআউট (১০০+ নোড):সাধারণ টপোলজি বর্ণনা: একটি স্ট্যান্ডার্ড র্যাক কনফিগারেশনে ২০টি কম্পিউট/স্টোরেজ সার্ভার থাকে, প্রতিটি একটি MCX653106A-HDAT দিয়ে সজ্জিত। পোর্ট ১ লিফ সুইচ A এর সাথে সংযুক্ত হয়, পোর্ট ২ লিফ সুইচ B এর সাথে সংযুক্ত হয়, স্বয়ংক্রিয় ফেইলওভার সহ রিডান্ড্যান্ট অ্যাক্টিভ-অ্যাক্টিভ পাথ সরবরাহ করে। লিফ সুইচগুলি ৪০০GbE এর মাধ্যমে স্পাইন সুইচগুলিতে আপলিঙ্ক করে, একটি ১:১ ওভারসাবস্ক্রিপশন অনুপাত সহ একটি CLOS ফ্যাব্রিক তৈরি করে। এই ডিজাইনটি নিশ্চিত করে যে কোনো একক লিঙ্ক বা সুইচ ব্যর্থতা অ্যাপ্লিকেশন উপলব্ধতাকে প্রভাবিত করে না, সাব-সেকেন্ড রিকভারি মেকানিজম সহ।মোট মালিকানা ব্যয়ের মূল্যায়নকারী সংস্থাগুলির জন্য, MCX653106A-HDAT মূল্য CPU সাশ্রয় (সাধারণত প্রতি সার্ভারে ৪-৬ কোর পুনরুদ্ধার), ৩–৫× অ্যাপ্লিকেশন থ্রুপুট লাভ এবং একাধিক ২৫GbE লিঙ্ক একত্রীকরণের ক্ষমতার পাশাপাশি বিবেচনা করা উচিত। MCX653106A-HDAT বিক্রয়ের জন্য বান্ডিল NVIDIA Spectrum সুইচ এবং DOCA সফ্টওয়্যার সাবস্ক্রিপশন সহ প্রায়শই ভলিউম ডিসকাউন্ট উপলব্ধ থাকে।

৫. অপারেশন, মনিটরিং, ট্রাবলশুটিং এবং অপ্টিমাইজেশন

একটি উচ্চ-কার্যকারিতা RoCE ফ্যাব্রিকের কার্যকর অপারেশন বিশেষ মনিটরিং এবং ট্রাবলশুটিং অনুশীলনের প্রয়োজন। MCX653106A-HDAT এই ক্রিয়াকলাপগুলি সমর্থন করার জন্য ব্যাপক ইন্সট্রুমেন্টেশন সরবরাহ করে: সাব-সেকেন্ড গ্রানুলারিটিতে প্রতি-ফ্লো থ্রুপুট, কিউ ডেপথ, প্যাকেট ড্রপস এবং লেটেন্সি ডিস্ট্রিবিউশন নিরীক্ষণের জন্য অ্যাডাপ্টারের হার্ডওয়্যার কাউন্টার ব্যবহার করুন। রিয়েল-টাইম ড্যাশবোর্ড এবং অ্যালার্টের জন্য স্ট্যান্ডার্ড মনিটরিং প্ল্যাটফর্মে (Prometheus, Grafana, ELK স্ট্যাক) মেট্রিকগুলি এক্সপোর্ট করুন।

কনজেশন সনাক্তকরণ এবং ব্যবস্থাপনা: মাইক্রো-বার্স্ট এবং ট্র্যাফিক হটস্পট সনাক্ত এবং স্থানীয়করণ করতে PFC পজ ফ্রেম, ECN-চিহ্নিত প্যাকেট এবং বাফার অকুপেন্সি নিরীক্ষণ করুন। MCX653106A-HDAT ডেটাশিট এই কাউন্টারগুলি ব্যাখ্যা করার এবং অর্থপূর্ণ অ্যালার্ট থ্রেশহোল্ড স্থাপন করার জন্য বিস্তারিত নির্দেশিকা সরবরাহ করে।লাইফসাইকেল ব্যবস্থাপনা: কর্মক্ষমতা, নিরাপত্তা এবং বৈশিষ্ট্য উন্নত করার জন্য NVIDIA OFED ড্রাইভার স্ট্যাক এবং অ্যাডাপ্টার ফার্মওয়্যারের নিয়মিত আপডেট অপরিহার্য। বড় স্থাপনা জুড়ে স্বয়ংক্রিয়, জিরো-টাচ লাইফসাইকেল ব্যবস্থাপনার জন্য NVIDIA DOCA ব্যবহার করুন।

পারফরম্যান্স টিউনিং নির্দেশিকা: মূল টিউনিং প্যারামিটারগুলির মধ্যে রয়েছে PFC বাফার থ্রেশহোল্ড (সাধারণত প্রতি পোর্টে ২-৪ MB), ECN মার্কিং সীমা (কিউ ডেপথের ৮০-৯০%), অ্যাডাপ্টার ইন্টারাপ্ট মডারেশন সেটিংস (লেটেন্সি বনাম থ্রুপুট ভারসাম্য), এবং PCIe লিঙ্ক কনফিগারেশন। উপযুক্ত সেটিংস নির্দিষ্ট ওয়ার্কলোড প্রোফাইল এবং ক্লাস্টার আকারের উপর নির্ভর করে।সিস্টেমেটিক ট্রাবলশুটিং ফ্রেমওয়ার্ক: বেশিরভাগ পারফরম্যান্স সমস্যা DCB মিসকনফিগারেশন, MTU অমিল, ড্রাইভার সংস্করণ অসঙ্গতি বা ক্যাবলিং সমস্যার কারণে হতে পারে। অ্যাডাপ্টারের ডায়াগনস্টিক টুলসেট (mstflint, ethtool, mlxconfig, mlxlink, এবং mlxband) অপারেশনাল স্ট্যাটাস, লিঙ্ক স্বাস্থ্য, ত্রুটি পরিসংখ্যান এবং ব্যান্ডউইথ ব্যবহারের উপর ব্যাপক দৃশ্যমানতা সরবরাহ করে।

৬. সারসংক্ষেপ এবং মূল্য মূল্যায়নNVIDIA Mellanox MCX653106A-HDAT একটি কৌশলগত পরিকাঠামো বিনিয়োগের প্রতিনিধিত্ব করে যা একাধিক মাত্রায় রূপান্তরকারী ব্যবসায়িক মূল্য সরবরাহ করে:

মাত্রাপ্রদত্ত মূল্য২০০ Gb/s থ্রুপুট, সাব-০.৬µs লেটেন্সি, ৩–৫× অ্যাপ্লিকেশন-লেভেল পারফরম্যান্স উন্নতি

দক্ষতা৮০% পর্যন্ত CPU অফলোড, ২৫W পাওয়ার খরচ, প্রতি সার্ভারে ৪-৬ কোর পুনরুদ্ধারTCOসার্ভার আপগ্রেড ১৮-২৪ মাস পিছিয়ে দিন, ক্লাস্টার আকার ৩০-৪০% কমান, কুলিং খরচ কমানপ্রোগ্রামেবলিটি

DOCA এর মাধ্যমে ভবিষ্যৎ-প্রমাণ, কাস্টম ডেটা-পাথ অ্যাপ্লিকেশন এবং ওয়ার্কলোড-নির্দিষ্ট অপ্টিমাইজেশন সক্ষম করে

একটি এন্ড-টু-এন্ড MCX653106A-HDAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধান হিসাবে, এটি সংস্থাগুলিকে লসলেস, উচ্চ-কার্যকারিতা নেটওয়ার্ক তৈরি করতে সক্ষম করে যা আধুনিক AI, HPC, এবং ক্লাউড-নেটিভ ওয়ার্কলোডগুলির সম্পূর্ণ সম্ভাবনা উপলব্ধি করে। এন্টারপ্রাইজ ডেটা সেন্টার, ক্লাউড সার্ভিস প্রোভাইডার পরিবেশ বা ডেডিকেটেড গবেষণা সুবিধাগুলিতে স্থাপন করা হোক না কেন, NVIDIA Mellanox MCX653106A-HDAT ধারাবাহিকভাবে নেটওয়ার্ক স্থপতিদের পরবর্তী প্রজন্মের পরিকাঠামোর জন্য প্রয়োজনীয় কর্মক্ষমতা, দক্ষতা এবং বুদ্ধিমত্তা সরবরাহ করে।