Mellanox (NVIDIA) 920-9B110-00FH-0D0 InfiniBand সুইচ প্রযুক্তিগত সমাধান｜নিম্ন-বিলম্ব সংযোগ অপটিমাইজ করা

1. প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

এআই প্রশিক্ষণ এবং HPC ওয়ার্কলোডগুলির জন্য আধুনিক অ্যাক্সিলারেটেড কম্পিউটিং ক্লাস্টার স্থাপন এবং স্কেলিং অনন্য নেটওয়ার্ক চ্যালেঞ্জ উপস্থাপন করে। ঐতিহ্যবাহী TCP/IP-ভিত্তিক নেটওয়ার্কগুলি উল্লেখযোগ্য লেটেন্সি এবং CPU ওভারহেড তৈরি করে, যা প্রধান বাধা হয়ে দাঁড়ায়। একটি পরবর্তী প্রজন্মের ইন্টারকানেক্ট সমাধানের মূল প্রয়োজনীয়তাগুলির মধ্যে রয়েছে: GPU স্টল প্রতিরোধ করার জন্য ডেটারমিনিস্টিক সাব-মাইক্রোসেকেন্ড লেটেন্সি, অল-টু-অল কমিউনিকেশন প্যাটার্নের জন্য উচ্চ বাইসেকশনাল ব্যান্ডউইথ, সম্মিলিত অপারেশনগুলি অফলোড করার জন্য স্কেলেবল ইন-নেটওয়ার্ক কম্পিউটিং এবং অপারেশনাল সরলতার জন্য শক্তিশালী ফ্যাব্রিক ম্যানেজমেন্ট।

The NVIDIA Mellanox 920-9B110-00FH-0D0 এই সুনির্দিষ্ট চাহিদাগুলি মেটাতে প্রকৌশলী করা হয়েছে, যা একটি কার্যকরী এবং দক্ষ 920-9B110-00FH-0D0 InfiniBand সুইচ OPN সমাধান এর ভিত্তি তৈরি করে। এই নথিতে এর স্থাপনার জন্য একটি বিস্তৃত প্রযুক্তিগত ব্লুপ্রিন্ট তুলে ধরা হয়েছে।

2. সামগ্রিক নেটওয়ার্ক/সিস্টেম আর্কিটেকচার ডিজাইন

প্রস্তাবিত আর্কিটেকচারটি হল একটি স্পাইন-লিফ, নন-ব্লকিং ফ্যাট-ট্রি টপোলজি, যা পূর্বাভাসযোগ্য, উচ্চ-ব্যান্ডউইথ HPC এবং AI ক্লাস্টার তৈরির জন্য ডি ফ্যাক্টো স্ট্যান্ডার্ড। এই ডিজাইনটি যেকোনো দুটি নোডের মধ্যে সামঞ্জস্যপূর্ণ হপ কাউন্ট এবং লেটেন্সি নিশ্চিত করে, ওভারসাবস্ক্রিপশন এবং হটস্পটগুলি দূর করে। আর্কিটেকচারটি একটি ফুল-স্ট্যাক, NVIDIA-অপটিমাইজড ইকোসিস্টেমের উপর নির্মিত।

• কম্পিউট লেয়ার: NVIDIA DGX বা HGX সিস্টেম, অথবা NVIDIA ConnectX-7 NIC সহ সমতুল্য GPU সার্ভার।
• ইন্টারকানেক্ট লেয়ার: 920-9B110-00FH-0D0 সুইচগুলির একটি সমজাতীয় ফ্যাব্রিক যা উভয় লিফ (টপ-অফ-র্যাক) এবং স্পাইন সুইচ হিসাবে কাজ করে।
• ব্যবস্থাপনা ও অর্কেস্ট্রেশন লেয়ার: ফ্যাব্রিক ব্যবস্থাপনার জন্য NVIDIA UFM®, NVIDIA Magnum IO স্ট্যাকের মাধ্যমে Slurm বা Kubernetes-এর মতো ক্লাস্টার শিডিউলারের সাথে একত্রিত।

এই এন্ড-টু-এন্ড আর্কিটেকচার RDMA এবং GPUDirect যোগাযোগের জন্য সর্বোত্তম কর্মক্ষমতা নিশ্চিত করে, একটি সমন্বিত "ফ্যাব্রিক অ্যাজ এ কম্পিউট রিসোর্স" তৈরি করে।

3. 920-9B110-00FH-0D0-এর ভূমিকা এবং মূল প্রযুক্তিগত বৈশিষ্ট্য

এই আর্কিটেকচারের মধ্যে, 920-9B110-00FH-0D0 মৌলিক ডেটা প্লেন ইউনিট হিসেবে কাজ করে। এর ভূমিকা সাধারণ প্যাকেট ফরোয়ার্ডিংয়ের বাইরে একটি সক্রিয় গণনা উপাদান হওয়া পর্যন্ত বিস্তৃত।

মূল প্রযুক্তিগত স্তম্ভ:

• অতি-নিম্ন লেটেন্সি এবং উচ্চ ব্যান্ডউইথ: 920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDR ASIC দ্বারা চালিত, এটি শিল্প-নেতৃস্থানীয় পোর্ট-টু-পোর্ট লেটেন্সি এবং ফুল ওয়্যার-স্পিড 200Gb/s প্রতি পোর্ট ব্যান্ডউইথ সরবরাহ করে, যা RDMA ট্রাফিকের জন্য অত্যন্ত গুরুত্বপূর্ণ।
• ইন-নেটওয়ার্ক কম্পিউটিং (SHARP): সুইচ হার্ডওয়্যার নেটওয়ার্কের মধ্যে ডেটা একত্রিত করে MPI এবং NCCL সম্মিলিত অপারেশন (অল-রিডিউস, ব্রডকাস্ট)কে ত্বরান্বিত করে। এটি GPU নিষ্ক্রিয় সময় এবং CPU ওভারহেড নাটকীয়ভাবে হ্রাস করে।
• উন্নত কনজেশন কন্ট্রোল: অ্যাডাপটিভ রাউটিং এবং সময়োপযোগী কনজেশন কন্ট্রোল প্রক্রিয়াগুলি গতিশীলভাবে ট্র্যাফিক প্রবাহ পরিচালনা করে, প্যাকেট ড্রপ প্রতিরোধ করে এবং AI প্রশিক্ষণে সাধারণ ইনকাস্ট পরিস্থিতিতে ন্যায্য ব্যান্ডউইথ বিতরণ নিশ্চিত করে।
• টেলিমেট্রি ও দৃশ্যমানতা: NVIDIA-এর টেলিমেট্রি অবকাঠামোর জন্য সমন্বিত সমর্থন ট্র্যাফিক প্যাটার্ন, বাফার অকুপেন্সি এবং লিঙ্ক স্বাস্থ্যের গভীর অন্তর্দৃষ্টি প্রদান করে, যা কর্মক্ষমতা সুরের জন্য অপরিহার্য।

প্রকৌশলীদের বিস্তারিত 920-9B110-00FH-0D0 স্পেসিফিকেশন পাওয়ার, কুলিং এবং পোর্ট কনফিগারেশনের জন্য অফিসিয়াল 920-9B110-00FH-0D0 ডেটাশিট এর সাথে পরামর্শ করা উচিত।

4. স্থাপন ও স্কেলিং সুপারিশ

স্থাপন 920-9B110-00FH-0D0 সামঞ্জস্যপূর্ণ উপাদান তালিকার একটি সতর্ক বিশ্লেষণের মাধ্যমে শুরু হয়। একটি সাধারণ স্কেলিং ইউনিট হল একটি "পড" যা একটি নন-ব্লকিং ফ্যাট-ট্রি দিয়ে তৈরি করা হয়েছে।

উদাহরণ: 512-GPU ক্লাস্টার পড

• লিফ টিয়ার: 920-9B110-00FH-0D0 সুইচগুলিকে টপ-অফ-র্যাক (ToR) হিসাবে স্থাপন করুন, প্রতিটি 16টি পর্যন্ত GPU সার্ভার (যেমন, 8x DGX A100 সিস্টেম) সংযোগ করে।
• স্পাইন টিয়ার: 920-9B110-00FH-0D0 সুইচগুলির একটি দ্বিতীয় স্তর সমস্ত লিফ সুইচগুলিকে আন্তঃসংযোগ করে, সম্পূর্ণ বাইসেকশনাল ব্যান্ডউইথ প্রদান করে।
• কেবলিং: সমস্ত 200Gb/s ইন্টার-সুইচ এবং সার্ভার সংযোগের জন্য QSFP56 HDR কেবল (প্যাসিভ বা অ্যাক্টিভ) ব্যবহার করুন।

একটি পডের বাইরে স্কেলিং: একাধিক পড ডেডিকেটেড স্পাইন-অফ-স্পাইন সুইচ ব্যবহার করে বা ফ্যাট-ট্রি হায়ারার্কি প্রসারিত করে আন্তঃসংযুক্ত করা যেতে পারে, 920-9B110-00FH-0D0 এর উচ্চ রেডিক্সের সুবিধা গ্রহণ করে। 920-9B110-00FH-0D0 InfiniBand সুইচ OPN সম্প্রসারণের সময় অংশ আন্তঃক্রিয়াযোগ্যতার জন্য একটি সুস্পষ্ট রোডম্যাপ প্রদান করে।

5. অপারেশন, মনিটরিং, সমস্যা সমাধান ও অপটিমাইজেশন

ফ্যাব্রিকের সর্বোচ্চ কর্মক্ষমতা বজায় রাখার জন্য সক্রিয় ব্যবস্থাপনা অত্যন্ত গুরুত্বপূর্ণ। NVIDIA UFM® হল প্রস্তাবিত কেন্দ্রীয় ব্যবস্থাপনা প্ল্যাটফর্ম।

নিয়মিত ফার্মওয়্যার আপডেট এবং সুইচ ডকুমেন্টেশনে বর্ণিত সেরা অনুশীলনগুলি মেনে চলা অপরিহার্য। দুর্বল RDMA পারফরম্যান্সের মতো সমস্যাগুলির জন্য, ডায়াগনস্টিক প্রবাহ UFM® টেলিমেট্রি দিয়ে শুরু করা উচিত, কেবল অখণ্ডতা পরীক্ষা করা উচিত এবং SHARP ও কনজেশন কন্ট্রোল সেটিংস যাচাই করা উচিত।

6. উপসংহার ও মূল্য মূল্যায়ন

Mellanox (NVIDIA) 920-9B110-00FH-0D0 এর উপর ভিত্তি করে একটি ক্লাস্টার ইন্টারকানেক্ট বাস্তবায়ন RDMA, HPC এবং AI ওয়ার্কলোডগুলির জন্য একটি ভবিষ্যৎ-প্রুফ, উচ্চ-পারফরম্যান্স ভিত্তি প্রদান করে। এর মূল্য প্রস্তাব বহু-faceted: এটি যোগাযোগ ওভারহেড কমিয়ে GPU ব্যবহার এবং ROI সর্বাধিক করে, স্কেলেবল ক্লাস্টার বৃদ্ধি সক্ষম করে এবং সমন্বিত ব্যবস্থাপনা ও টেলিমেট্রির মাধ্যমে অপারেশনগুলিকে সহজ করে।যদিও

920-9B110-00FH-0D0 মূল্য একটি প্রিমিয়াম বিনিয়োগের প্রতিনিধিত্ব করে, মোট মালিকানার খরচ (TCO) কাজের সমাপ্তির সময় নাটকীয় হ্রাস, উন্নত গবেষক উত্পাদনশীলতা এবং দক্ষ স্কেলিং বিবেচনা করার সময় অনুকূল, যা ব্যয়বহুল ফ্যাব্রিক পুনর্গঠন এড়ায়। সংস্থাগুলি 920-9B110-00FH-0D0 বিক্রয়ের জন্য মূল্যায়ন করার সময়, এটিকে নেটওয়ার্কের খরচ হিসাবে নয়, বরং একটি কৌশলগত কম্পিউট অ্যাক্সিলারেটর হিসাবে দেখা উচিত। এই প্রযুক্তিগত সমাধানটি অ্যাক্সিলারেটেড কম্পিউটিং অবকাঠামোর সম্পূর্ণ সম্ভাবনা আনলক করার ব্লুপ্রিন্ট সরবরাহ করে।