মেলানক্স (এনভিডিয়া মেলানক্স) ৯৮০-৯আই৪৫টি-০০এইচ০২ টেকনিক্যাল হোয়াইট পেপার | উচ্চ-নির্ভরযোগ্য সংযোগ ও অপারেশন অপ্টিমাইজেশন

Mellanox (NVIDIA Mellanox) 980-9I45T-00H020 টেকনিক্যাল হোয়াইট পেপার∙ ডেটা সেন্টার ও এন্টারপ্রাইজ নেটওয়ার্কের জন্য উচ্চ নির্ভরযোগ্য সংযোগ ও অপারেশন অপ্টিমাইজেশান

এই হোয়াইট পেপারটিমেলানক্স (এনভিআইডিআইএ মেলানক্স) 980-9I45T-00H020আধুনিক ডেটা সেন্টার এবং কর্পোরেট নেটওয়ার্কের জন্য উচ্চ নির্ভরযোগ্যতার সংযোগ এবং অপারেশনাল শ্রেষ্ঠত্বের কৌশলটির ভিত্তি হিসাবে নেটওয়ার্ক ডিভাইস।980-9I45T-00H020এটি একটি উচ্চ-পারফরম্যান্স ইন্টারকানেকশন সমাধান যা এআই ক্লাস্টার, এইচপিসি পরিবেশ এবং মিশন-ক্রিটিকাল অবকাঠামোর সবচেয়ে চাহিদাপূর্ণ ওয়ার্কলোডগুলি পরিচালনা করার জন্য ডিজাইন করা হয়েছে।

1. ব্যাকগ্রাউন্ড এবং ব্যবসায়িক প্রয়োজনীয়তা

আধুনিক ডেটা সেন্টারগুলি সিপিইউ-কেন্দ্রিক আর্কিটেকচার থেকে জিপিইউ এবং ডিপিইউ-চালিত ডিজাইনে স্থানান্তরিত হচ্ছে। এআই প্রশিক্ষণ, বিগ ডেটা বিশ্লেষণ এবং রিয়েল-টাইম ট্রেডিং সিস্টেমগুলি ব্যান্ডউইথের উপর চরম চাহিদা আরোপ করে,ল্যাটেনসি, এবং প্যাকেট ক্ষতির হার। একই সময়ে, এন্টারপ্রাইজ নেটওয়ার্কগুলি মাল্টি-সাইট ইন্টারকানেকশন, মাল্টি-ক্লাউড অ্যাক্সেস এবং নিয়ন্ত্রক সম্মতিতে চ্যালেঞ্জের মুখোমুখি হয়,প্রচলিত তিন-স্তরের নেটওয়ার্ক আর্কিটেকচারগুলি ইলাস্টিক ব্যবসায়িক স্কেলিংয়ের জন্য অপর্যাপ্ত করে তোলে.

এর প্রবর্তনমেলানক্স (এনভিআইডিআইএ মেলানক্স) 980-9I45T-00H020নিম্নলিখিত সমালোচনামূলক ব্যথা পয়েন্টগুলি মোকাবেলা করেঃ

• পারফরম্যান্স বোতল ঘাটতি: বিদ্যমান ২৫জি/৪০জি নেটওয়ার্ক ৮০০জি শ্রেণীর জিপিইউ ক্লাস্টারের উত্তর-দক্ষিণ ট্রাফিকের প্রয়োজনীয়তা পূরণ করতে পারে না।
• অপারেশনাল জটিলতা: মাল্টি-ভ্রেন্ডার সরঞ্জামগুলি সিলোড মনিটরিং এবং দীর্ঘস্থায়ী গড় মেরামতের সময় (এমটিটিআর) এর দিকে পরিচালিত করে;
• নির্ভরযোগ্যতার ঘাটতি: লিংক ব্যর্থতা এবং ঘনত্বের ঘটনাগুলি অ্যাপ্লিকেশন পারফরম্যান্সের উল্লেখযোগ্য অবনতি এবং এসএলএ লঙ্ঘনের কারণ হয়।

এই সমাধানের জন্য মূল সাফল্যের পরিমাপগুলির মধ্যে রয়েছে সাব-মাইক্রোসেকেন্ড লেটেন্সি, ঘনত্বের অধীনে শূন্য প্যাকেট ক্ষতি এবং স্বয়ংক্রিয় ত্রুটি সনাক্তকরণ এবং সংশোধন।

2. নেটওয়ার্ক আর্কিটেকচার ডিজাইন

প্রস্তাবিত আর্কিটেকচারে একটিমেরুদণ্ডের পাতার কাপড়দুই স্তরের ক্লোজ ডিজাইনের সাথে টপোলজি, যা নির্ধারণমূলক কম বিলম্ব এবং বিশাল স্কেল আউট সক্ষমতা সক্ষম করে।980-9I45T-00H020 নেটওয়ার্ক পণ্য৮০০ জি / ৪০০ জি ওএসএফপি পোর্টের মাধ্যমে জিপিইউ সার্ভার এবং স্টোরেজ নোডগুলির সাথে সংযোগ স্থাপন করে। মেরুদণ্ড স্তরে, উচ্চ ঘনত্বের সুইচগুলি অবরোধহীন ইন্টার-র্যাক সংযোগ সরবরাহ করে।

প্রধান স্থাপত্য নীতিগুলির মধ্যে রয়েছেঃ

• শূন্য ক্ষতির RDMA কাপড়: RoCEv2 এবং PFC/ECN ফ্লো কন্ট্রোল ব্যবহার করে NVMe-oF এবং GPUDirect স্টোরেজের জন্য ক্ষতিহীন পরিবহন নিশ্চিত করা।
• অভিযোজিত রুটিং: রিয়েল-টাইম টেলিমেট্রিকের উপর ভিত্তি করে গতিশীল পথ নির্বাচন, ম্যানুয়াল হস্তক্ষেপ ছাড়াই জমে থাকা লিঙ্কগুলি এড়ানো;
• মাল্টিটেন্যান্ট বিচ্ছিন্নতা: হার্ডওয়্যার-ভিত্তিক ভিএক্সএলএএন এবং জেনেভা ওভারলে সমর্থন মিশ্র এআই, এইচপিসি এবং সাধারণ কাজের জন্য নিরাপদ বিভাজন সক্ষম করে।

আর্কিটেকচারটি ফ্যাব্রিক পড প্রতি ২,০৪৮ টি জিপিইউ নোড পর্যন্ত সমর্থন করার জন্য ডিজাইন করা হয়েছে,980-9I45T-00H020 ডেটা সেন্টার উচ্চ গতির নেটওয়ার্কিংকম্পিউটার/স্টোরেজ সংযোগের জন্য প্রাথমিক এজ নোড হিসেবে কাজ করা ডিভাইস।

3. সমাধানের ক্ষেত্রে মেলানক্সের ভূমিকা (NVIDIA Mellanox) 980-9I45T-00H020

দ্যমেলানক্স (এনভিআইডিআইএ মেলানক্স) 980-9I45T-00H020একটি মাল্টি-ফাংশন নেটওয়ার্ক অ্যাডাপ্টার / সুইচ উপাদান যা হোস্ট বাস (পিসিআইই 6.0) এবং ফ্যাব্রিক (ইনফিনিব্যান্ড বা ইথারনেট) এর মধ্যে একটি সেতু তৈরি করে। এর মূল প্রযুক্তিগত অবদানগুলি হ'লঃ

• 800 জি তারের গতির পুনঃপ্রেরণ: এক্সডিআর ইনফিনিব্যান্ড এবং ৮০০ জিবিই সমর্থন করে, ভবিষ্যতের জিপিইউ প্রজন্মের জন্য পর্যাপ্ত হেডরুম সরবরাহ করে (উদাহরণস্বরূপ, বি 100, এক্স ১০০);
• নেটওয়ার্ক কম্পিউটিং অফলোড (SHARPv3): নেটওয়ার্ক টেক্সচারে সরাসরি সমন্বয় অপারেশন সম্পাদন করে এমপিআই সমষ্টিগত যোগাযোগের সময় ৩০% পর্যন্ত কমিয়ে দেয়;
• হার্ডওয়্যার টেলিমেট্রি: অন্তর্নির্মিত ঘনত্ব সনাক্তকরণ (যেমন, ইসিএন চিহ্নিতকরণ, প্রবাহের হার সীমাবদ্ধকরণ) সিপিইউ ওভারহেড ছাড়াই সারি গতিশীলতা মধ্যে granular দৃশ্যমানতা প্রদান করে;
• উন্নত নিরাপত্তা: হার্ডওয়্যার রুট অফ ট্রাস্ট, সিকিউর বুট এবং ইনলাইন আইপিএসইসি/এমএসিএসইসি এনক্রিপশন ভৌত স্তরের আক্রমণ থেকে ট্রানজিট-এ ডেটা রক্ষা করে।

যেমন একটি980-9I45T-00H020 নেটওয়ার্ক পণ্য সমাধান, এটি বিদ্যমান মেলানক্স সুইচ এবং এনভিআইডিআইএ ডোকা সফটওয়্যার স্ট্যাকের সাথে নির্বিঘ্নে সংহত করে, সংহতকরণের ঝুঁকি হ্রাস করে এবং উত্পাদনের সময়কে ত্বরান্বিত করে।

4. মোতায়েন ও স্কেলিং সুপারিশ

প্রচলিত স্থাপনার দৃশ্যকল্পগুলির মধ্যে রয়েছেঃ

• ছোট আকারের (৬৪ টি পর্যন্ত জিপিইউ): 1x সহ দুই-র্যাক স্থাপনার980-9I45T-00H020প্রতি সার্ভারে, কম লেটেন্সির ইনট্রা-রেক যোগাযোগের জন্য OSFP-to-OSFP DAC ক্যাবল ব্যবহার করে;
• বড় স্কেল (256+ জিপিইউ): মাল্টি-পড আর্কিটেকচার980-9I45T-00H020পাতা সুইচগুলিকে 800G আপলিংকের মাধ্যমে স্পিন সুইচগুলিতে একত্রিত করে এমন ডিভাইসগুলি, যা পূর্ণ বিসেকশন ব্যান্ডউইথকে সক্ষম করে;
• হাইব্রিড এআই + স্টোরেজ কাপড়:980-9I45T-00H020পোর্ট-স্প্লিটিং (2x 400G বা 8x 100G) দিয়ে কনফিগার করা যেতে পারে যাতে একযোগে কম্পিউটিং এবং স্টোরেজ নেটওয়ার্কগুলি পরিবেশন করা যায়, ক্যাপেক্স হ্রাস করে।

টপোলজি চিত্র (সরলীকৃত):

ভবিষ্যতে সম্প্রসারণের জন্য, আর্কিটেকচারটি স্পিন স্তরটি পুনরায় ডিজাইন না করে অতিরিক্ত পাতা ব্লক যুক্ত করে পে-অফ-আপনি-গ্রেড স্কেলিং সমর্থন করে।

5. অপারেশন মনিটরিং, সমস্যা সমাধান এবং অপ্টিমাইজেশান

দ্য980-9I45T-00H020এনভিআইডিআইএর টেলিমেট্রি স্ট্যাকের সাথে একীভূত হয় যা রিয়েল-টাইম দৃশ্যমানতা প্রদান করেঃ

• মাইক্রোবার্স্ট সনাক্তকরণ: প্রতিটি প্রবাহের জন্য বাফার ব্যবহারের হার্ডওয়্যার-স্তরের প্রতিবেদন, যা পূর্ববর্তী QoS সমন্বয়গুলিকে অনুমতি দেয়;
• লিঙ্ক মানের পর্যবেক্ষণ: FEC (ফরওয়ার্ড ত্রুটি সংশোধন) কাউন্টার এবং অপটিক্যাল লিংক অবনতির জন্য সংকেত-শব্দ অনুপাত সতর্কতা;
• নেটওয়ার্ক সিমুলেশন: ডিজিটাল টুইন পরিবেশে ট্রাফিক প্যাটার্ন পুনর্নির্মাণের জন্য অন্তর্নির্মিত টেলিমেট্রি ডেটা ব্যবহার করে কি-যদি বিশ্লেষণ।

অপারেশনাল সেরা অনুশীলনের সুপারিশঃ

• সেটআপ করুনস্বয়ংক্রিয় বেসলাইন প্রোফাইলসাধারণ লোডের অধীনে ল্যাটেনসি এবং থ্রুপুটের জন্য এবং 10% এর বেশি বিচ্যুতি হলে সতর্কতা সক্রিয় করা;
• নিয়মিত পরিদর্শনফার্মওয়্যার সংস্করণসর্বশেষ NVIDIA DOCA এবং ড্রাইভার রিলিজের সাথে সামঞ্জস্যতা নিশ্চিত করা;
• ব্যবহার করুন980-9I45T-00H020 স্পেসিফিকেশনএবং980-9I45T-00H020 তথ্য পত্রনির্দিষ্ট ট্র্যাফিক মিশ্রণের জন্য বাফার থ্রেশহোল্ডগুলি ক্যালিব্রেট করতে (যেমন, সমস্ত-হ্রাস বনাম সমস্ত-সকলের প্যাটার্ন);
• স্কেল করার সময়, যাচাই করুন980-9I45T-00H020 সামঞ্জস্যপূর্ণসিগন্যাল অখণ্ডতার সমস্যা এড়ানোর জন্য সরকারি সামঞ্জস্যতা ম্যাট্রিক্স ব্যবহার করে অপটিক্স এবং তারের।

6. সংক্ষিপ্ত বিবরণ এবং মূল্য মূল্যায়ন

দ্যমেলানক্স (এনভিআইডিআইএ মেলানক্স) 980-9I45T-00H020এটি উচ্চ নির্ভরযোগ্যতা, অপারেশনাল দক্ষতা ডেটা সেন্টার নেটওয়ার্ক নির্মাণের একটি প্রমাণিত পথ প্রদান করে। এর সমন্বয় 800G থ্রুপুট, ইন নেটওয়ার্ক কম্পিউটিং,এবং গ্রানুলার টেলিমেট্রি সংস্থাগুলিকে:

• এআই প্রশিক্ষণের সমাপ্তির সময় 30-40% হ্রাসঅপ্টিমাইজড সমষ্টিগত যোগাযোগের মাধ্যমে;
• লিঙ্ক ব্যর্থতার সময় শূন্য ব্যবহারকারীর প্রভাবঅ্যাডাপ্টিভ রুটিং এবং সাব-সেকেন্ড ফেইলওভার এর জন্য ধন্যবাদ;
• 50% কম অপারেটিং ওভারহেডইউনিফাইড মনিটরিং এবং অটোমেটেড রিমেডিকেশন কাজের প্রবাহের মাধ্যমে।

সঙ্গে980-9I45T-00H020 নেটওয়ার্ক পণ্যএজ ফাউন্ডেশন হিসাবে, এন্টারপ্রাইজগুলি নির্ভরযোগ্যতা, সুরক্ষা এবং মোট মালিকানা ব্যয়ের উপর সম্পূর্ণ নিয়ন্ত্রণ বজায় রেখে আত্মবিশ্বাসের সাথে পরবর্তী প্রজন্মের এআই ওয়ার্কলোড স্থাপন করতে পারে।980-9I45T-00H020 দামএবং980-9I45T-00H020 বিক্রির জন্যপ্রশ্নের জন্য, আপনার অনুমোদিত NVIDIA Mellanox অংশীদার সাথে যোগাযোগ করুন.