মেলানক্স (এনভিআইডিআইএ মেলানক্স) 920-9B210-00FN-0D0 ইনফিনিব্যান্ড সুইচ প্রযুক্তিগত সমাধান

Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0 InfiniBand সুইচ প্রযুক্তিগত সমাধান | RDMA/HPC/AI ক্লাস্টারগুলির জন্য লো-লেটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশান৷

1. প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

আধুনিক এআই প্রশিক্ষণ ফ্রেমওয়ার্ক এবং এইচপিসি অ্যাপ্লিকেশনগুলি একা ঘনত্ব গণনা করার পরিবর্তে নেটওয়ার্ক ইন্টারকানেক্ট পারফরম্যান্স দ্বারা ক্রমবর্ধমানভাবে সীমাবদ্ধ। বিতরণকৃত প্রশিক্ষণের কাজগুলি-বিশেষ করে যারা বড় ভাষার মডেল ব্যবহার করে-প্রথাগত ইথারনেট ফ্যাব্রিকগুলিকে ছাপিয়ে যেগুলি ব্যাপক, সিঙ্ক্রোনাইজড অল-রিডুস এবং সব-থেকে-সব ট্র্যাফিক প্যাটার্ন তৈরি করে। এন্টারপ্রাইজ স্থাপনা জুড়ে চিহ্নিত মূল প্রয়োজনীয়তাগুলির মধ্যে রয়েছে: কমিউনিকেশন ওভারহেড কমানোর জন্য সাব-মাইক্রোসেকেন্ড সুইচ লেটেন্সি, ওভারসাবস্ক্রিপশন দূর করতে স্কেলে নন-ব্লকিং থ্রুপুট, ইনকাস্ট বিস্ফোরণ সামলাতে উন্নত কনজেশন কন্ট্রোল এবং কনভার্জড ইথারনেট (RoCE) বা নেটিভ Inecfinosiyst-এর উপর RDMA-এর সাথে বিরামহীন ইন্টিগ্রেশন। উপরন্তু, অপারেশনাল দলগুলি শত শত পোর্ট জুড়ে সক্রিয় ত্রুটি সনাক্তকরণ এবং সরলীকৃত ব্যবস্থাপনার জন্য গভীর টেলিমেট্রির দাবি করে।

2. সামগ্রিক নেটওয়ার্ক/সিস্টেম আর্কিটেকচার ডিজাইন

প্রস্তাবিত স্থাপত্যটি একটি দ্বি-স্তরের পাতা-মেরুদন্ডের টপোলজির উপর কেন্দ্রীভূত, উদ্দেশ্য-নির্মিত GPU-কেন্দ্রিক কাজের চাপের জন্য। পাতার স্তরে, প্রতিটি র্যাকে থাকেMellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0প্রাথমিক ToR (টপ-অফ-র্যাক) সুইচ হিসাবে, 400Gb/s NDR লিঙ্কের মাধ্যমে 40 কম্পিউট নোড পর্যন্ত সংযুক্ত করা হচ্ছে। মেরুদণ্ড স্তর একটি দ্বিতীয় স্তর গঠিত920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRসুইচ করে, 4:1 ওভারসাবস্ক্রিপশন সহ পূর্ণ-জাল সংযোগ প্রদান করে—অথবা পর্যাপ্ত মেরুদণ্ডের পোর্টের সাথে স্থাপন করা হলে সম্পূর্ণরূপে অ-ব্লক করা হয়। NVIDIA-এর UFM (ইউনিফাইড ফ্যাব্রিক ম্যানেজার) এর মাধ্যমে আন্তঃসংযুক্ত একাধিক সাবনেটের মাধ্যমে অনুভূমিকভাবে স্কেল করার বিকল্প সহ এই নকশাটি একটি একক ফ্যাব্রিক ডোমেনে 512টি পর্যন্ত GPU নোড সমর্থন করে।

স্থাপত্যটি NVIDIA-এর SHARPv3 (স্কেলেবল হায়ারার্কিক্যাল অ্যাগ্রিগেশন অ্যান্ড রিডাকশন প্রোটোকল) ইন-নেটওয়ার্ক কম্পিউটিং ইঞ্জিনের সুবিধা দেয়, সরাসরি সুইচ ASIC-এ যৌথ ক্রিয়াকলাপগুলি অফলোড করে৷ এটি সিপিইউ/জিপিইউ মেমরি বাসগুলিকে অতিক্রম করে ডেটার পরিমাণ হ্রাস করে এবং সফ্টওয়্যার-ভিত্তিক পদ্ধতির তুলনায় যৌথ অপারেশন লেটেন্সি 40% পর্যন্ত কমিয়ে দেয়। দ920-9B210-00FN-0D0 InfiniBand সুইচ OPNএছাড়াও অভিযোজিত রাউটিং সমর্থন করে, যা গতিশীলভাবে প্রতিটি প্যাকেটের জন্য সর্বনিম্ন-জড়িত পথ নির্বাচন করে, এমনকি অসমমিত ট্র্যাফিক লোডের মধ্যেও সর্বোত্তম ব্যান্ডউইথ ব্যবহার নিশ্চিত করে।

3. সমাধানে 920-9B210-00FN-0D0 এর ভূমিকা ও মূল বৈশিষ্ট্য

দNVIDIA Mellanox 920-9B210-00FN-0D0পুরো ইন্টারকানেক্ট ফ্যাব্রিকের জন্য ভিত্তি বিল্ডিং ব্লক হিসাবে কাজ করে। এর প্রাথমিক ভূমিকাগুলির মধ্যে রয়েছে:

• উচ্চ-ঘনত্ব সমষ্টি:একটি 2U ফর্ম ফ্যাক্টরে 64টি নন-ব্লকিং 400Gb/s পোর্ট সহ, সুইচটি 25.6 Tb/s এর সামগ্রিক সুইচিং ক্ষমতা প্রদান করে। এই ঘনত্ব প্রতি র্যাকে প্রয়োজনীয় সুইচের সংখ্যা হ্রাস করে, ক্যাবলিংকে সহজ করে এবং প্রতি পোর্টে বিদ্যুতের খরচ কমায়।
• আল্ট্রা-লো লেটেন্সি স্যুইচিং:সুইচটি যেকোনো প্যাকেটের আকারের জন্য উপ-600ns লেটেন্সি বজায় রাখে, অনলাইন অনুমান এবং আর্থিক HPC-এর মতো টেইল লেটেন্সির প্রতি সংবেদনশীল অ্যাপ্লিকেশনগুলির জন্য গুরুত্বপূর্ণ।
• ইন-নেটওয়ার্ক কম্পিউটিং:SHARPv3 ইন্টিগ্রেশন সমষ্টিগত ক্রিয়াকলাপগুলির হার্ডওয়্যার ত্বরণকে সক্ষম করে, ফ্যাব্রিক জুড়ে ট্রাভার্সালের সংখ্যা হ্রাস করে এবং সামগ্রিক কাজ সমাপ্তির সময় 30% পর্যন্ত উন্নত করে।
• উন্নত টেলিমেট্রি এবং যানজট নিয়ন্ত্রণ:স্যুইচটি প্রতি-প্রবাহের দৃশ্যমানতা প্রদান করে, হোস্ট-সাইড সামঞ্জস্যের জন্য ঘনবসতিপূর্ণ স্ট্রীম চিহ্নিত করে এবং প্রারম্ভিক হটস্পটগুলির প্রাথমিক সতর্কতা সক্ষম করে।

অনুযায়ী920-9B210-00FN-0D0 ডেটাশিট, সুইচটি তামা এবং অপটিক্যাল QSFP-DD ট্রান্সসিভার উভয়কেই সমর্থন করে, এটি তৈরি করে920-9B210-00FN-0D0 সামঞ্জস্যপূর্ণবেশিরভাগ ডেটা সেন্টারে বিদ্যমান তারের পরিকাঠামো সহ। এর সামনে থেকে পিছনের বায়ুপ্রবাহ এবং অপ্রয়োজনীয় বিদ্যুৎ সরবরাহ এন্টারপ্রাইজ পরিবেশে উচ্চ প্রাপ্যতা নিশ্চিত করে।

4. স্থাপনা এবং স্কেলিং সুপারিশ (সাধারণ টপোলজি)

128টি GPU নোডের একটি গ্রিনফিল্ড স্থাপনের জন্য, আমরা 4টি পাতার সুইচ এবং 2টি মেরুদণ্ডের সুইচ সহ একটি দ্বি-স্তরীয় আর্কিটেকচারের সুপারিশ করি, প্রতিটি মেরুদণ্ড 4x400Gb/s আপলিঙ্কের মাধ্যমে প্রতিটি পাতার সাথে সংযুক্ত থাকে—যার ফলস্বরূপ 2:1 ওভারসাবস্ক্রিপশন অনুপাত হয়, যা সর্বাধিক প্রশিক্ষণের জন্য গ্রহণযোগ্য। লেটেন্সি-সংবেদনশীল বা উচ্চ-ব্যান্ডউইথ অ্যাপ্লিকেশানগুলির জন্য, একটি 1:1 নন-ব্লকিং ডিজাইন অর্জন করা যেতে পারে মেরুদণ্ডের সংখ্যা 4-এ বাড়িয়ে, ডাউনলিংক পোর্টগুলির সমান একটি সামগ্রিক আপলিংক ক্ষমতা প্রদান করে।

512 নোডের বাইরে স্কেলিং করার জন্য ফ্যাব্রিককে একাধিক সাবনেটে বিভাজন করা প্রয়োজন, প্রতিটিটি একটি স্বতন্ত্র ফ্যাব্রিক দ্বীপ হিসাবে UFM দ্বারা পরিচালিত হয়। আন্তঃ-সাবনেট যোগাযোগ NVIDIA-এর কোয়ান্টাম-2 গেটওয়ের মাধ্যমে বা হোস্ট-ভিত্তিক রাউটিং-এর মাধ্যমে রুট করা যেতে পারে, যদিও কার্যক্ষমতা-সংবেদনশীল কাজের চাপের জন্য প্রস্তাবিত পদ্ধতি হল ফ্যাব্রিককে যেখানেই সম্ভব একটি একক সাবনেটের মধ্যে রাখা। দ920-9B210-00FN-0D0 স্পেসিফিকেশনবিল্ট-ইন ফ্লো কন্ট্রোল এবং অগ্রাধিকার-ভিত্তিক ফ্লো কন্ট্রোল (PFC) সহ এই বৃহৎ-স্কেল টপোলজিগুলিকে সমর্থন করে যাতে পাথ রিরুটিং ইভেন্টের সময় প্যাকেট ড্রপ প্রতিরোধ করা যায়।

ফিজিক্যাল ক্যাবলিংয়ের পরিকল্পনা করার সময়, তারের ঘনত্ব কমাতে মেরুদন্ড-পাতার সংযোগের জন্য MPO-টু-QSFP-DD ব্রেকআউট তারগুলি বা 3 মিটারের বেশি দূরত্বের জন্য সক্রিয় অপটিক্যাল কেবল (AOCs) ব্যবহার করার কথা বিবেচনা করুন। দ920-9B210-00FN-0D0 বিক্রয়ের জন্যসাধারণত একটি বিস্তৃত আনুষঙ্গিক কিট অন্তর্ভুক্ত করে, তবে আমরা লিঙ্ক প্রশিক্ষণের সমস্যা এড়াতে বিক্রেতার আন্তঃঅপারেবিলিটি ম্যাট্রিক্সের মাধ্যমে তৃতীয় পক্ষের ট্রান্সসিভার সামঞ্জস্য যাচাই করার পরামর্শ দিই।

5. অপারেশন, মনিটরিং এবং ফল্ট নির্ণয়

অপারেশনাল শ্রেষ্ঠত্ব একটি ভিত্তিপ্রস্তর920-9B210-00FN-0D0 InfiniBand সুইচ OPN সমাধান. সুইচটি NVIDIA-এর UFM প্ল্যাটফর্মের সাথে নির্বিঘ্নে সংহত করে, যা প্রদান করে:

• রিয়েল-টাইম ফ্যাব্রিক স্বাস্থ্য পর্যবেক্ষণ:লিঙ্ক স্থিতি, তাপমাত্রা, শক্তি খরচ, এবং প্রতি-পোর্ট ত্রুটি কাউন্টার (CRC, প্রতীক, এবং প্রান্তিককরণ ত্রুটি) জন্য ড্যাশবোর্ড।
• ভবিষ্যদ্বাণীমূলক ব্যর্থতা বিশ্লেষণ:UFM-এ মেশিন লার্নিং মডেলগুলি কাজ ব্যর্থ হওয়ার আগে সক্রিয়ভাবে ব্যর্থ অপটিক্স বা ক্ষয়প্রাপ্ত লিঙ্কগুলি সনাক্ত করে।
• স্বয়ংক্রিয় সমস্যা সমাধান:সিস্টেমটি সংশোধনমূলক পদক্ষেপের সুপারিশ করে, যেমন ট্রাফিককে পুনরায় রুট করা বা ত্রুটিপূর্ণ লিঙ্কগুলিকে আলাদা করা, রেজোলিউশনের গড় সময় (MTTR) উল্লেখযোগ্যভাবে হ্রাস করা।

উন্নত ডায়াগনস্টিকসের জন্য, সুইচটি sFlow এবং পোর্ট মিররিং সমর্থন করে, প্রোটোকল-স্তরের ডিবাগিংয়ের জন্য গভীর প্যাকেট পরিদর্শন সক্ষম করে। দলগুলি বিস্তারিত অ্যাক্সেস করতে পারে920-9B210-00FN-0D0 স্পেসিফিকেশনবাফার থ্রেশহোল্ড এবং প্রস্তাবিত সেটিংসের জন্য, বিশেষ করে মিশ্র InfiniBand/ইথারনেট পরিবেশে ব্যবহার করা হলে RoCEv2 ট্র্যাফিক টিউন করার জন্য। পারফরম্যান্স টিউনিং অভিযোজিত রাউটিং থ্রেশহোল্ড এবং SHARPv3 সমষ্টির ব্যবধানের উপর ফোকাস করা উচিত, যা কাজের চাপের ফেজ-প্রশিক্ষণ বনাম অনুমান অনুযায়ী সামঞ্জস্য করা যেতে পারে।

রুটিন রক্ষণাবেক্ষণের মধ্যে রয়েছে ফার্মওয়্যার আপডেট, যা UFM-এর রোলিং আপগ্রেড ক্ষমতা ব্যবহার করে ন্যূনতম ব্যাঘাত সহ সঞ্চালিত হয় এবং সংকেত অখণ্ডতা বজায় রাখতে অপটিক্যাল সংযোগকারীর পর্যায়ক্রমিক পরিচ্ছন্নতা। সুইচের অপ্রয়োজনীয় শক্তি এবং ফ্যান মডিউলগুলি অপারেশন চলাকালীন হট-সোয়াপ প্রতিস্থাপনের অনুমতি দেয়।

6. সারাংশ এবং মূল্য মূল্যায়ন

দMellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0তাদের AI এবং HPC বিনিয়োগের সম্পূর্ণ কর্মক্ষমতা আনলক করতে চাওয়া সংস্থাগুলির জন্য একটি ব্যাপক সমাধান অফার করে৷ 400Gb/s NDR গতি, ইন-নেটওয়ার্ক কম্পিউটিং, এবং একটি একক, স্কেলযোগ্য প্ল্যাটফর্মের মধ্যে বুদ্ধিমান কনজেশন ম্যানেজমেন্টকে একত্রিত করে, এটি আজকের ডেটা সেন্টারগুলির মুখোমুখি হওয়া সবচেয়ে চাপযুক্ত আন্তঃসংযোগ চ্যালেঞ্জগুলিকে মোকাবেলা করে। বর্ণিত আর্কিটেকচারটি 128-নোড পাইলট ক্লাস্টার থেকে 2,000+ নোড সুপারকম্পিউটিং ফ্যাব্রিক্সে একটি প্রমাণিত পথ সরবরাহ করে, পরিচালনামূলক সরঞ্জামগুলির সাথে যা পরিচালনাকে সহজ করে এবং মালিকানার মোট খরচ কমায়।

মূল্যায়ন করার সময়920-9B210-00FN-0D0 মূল্য, দীর্ঘমেয়াদী মান বিবেচনা করুন: কম কাজ সমাপ্তির সময় সরাসরি কম ক্লাউড খরচ বা অন-প্রিমিসেস ওয়ার্কলোডের জন্য দ্রুত সময়ের সাথে অন্তর্দৃষ্টিতে অনুবাদ করে। দ920-9B210-00FN-0D0 InfiniBand সুইচ OPN সমাধানNVIDIA-এর গ্লোবাল সাপোর্ট নেটওয়ার্ক এবং বিস্তৃত অংশীদার ইকোসিস্টেম দ্বারা সমর্থিত, এটি নিশ্চিত করে যে সংস্থাগুলি আগামী বছরগুলির জন্য তাদের পরিকাঠামো আত্মবিশ্বাসের সাথে স্থাপন, স্কেল এবং অপ্টিমাইজ করতে পারে।

বিস্তারিত পরিকল্পনার জন্য, কর্মকর্তা পড়ুন920-9B210-00FN-0D0 ডেটাশিটএবং920-9B210-00FN-0D0 স্পেসিফিকেশননথি, যা যান্ত্রিক অঙ্কন, তাপীয় প্রোফাইল, এবং কর্মক্ষমতা বেঞ্চমার্ক অন্তর্ভুক্ত.