NVIDIA Mellanox MQM9790-NS2F ইনফিনিব্যান্ড সুইচ প্রযুক্তিগত সমাধান

NVIDIA Mellanox MQM9790-NS2F ইনফিনিব্যান্ড সুইচ প্রযুক্তিগত সমাধান｜RDMA, HPC, এবং AI ক্লাস্টারের জন্য লো-ল্যাটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশন

প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

AI বৃহৎ-মডেল প্রশিক্ষণ, HPC সিমুলেশন, এবং ডিস্ট্রিবিউটেড স্টোরেজ সমর্থনকারী আধুনিক ডেটা সেন্টারগুলি দ্রুত 200Gb/s HDR থেকে 400Gb/s NDR-এ স্থানান্তরিত হচ্ছে। নেটওয়ার্ক স্থপতিদের জন্য মূল টানাপোড়েন হল GPU নোডের ঘনত্ব বাড়তে থাকে, যখন নোড-টু-নোড যোগাযোগের ল্যাটেন্সি এবং জিটার ক্লাস্টারের দক্ষতার জন্য সীমাবদ্ধ কারণ হয়ে দাঁড়ায়। একটি একক কনজেস্টেড হপ বা ভুল কনফিগার করা ফ্যাব্রিক স্তর শত শত নোডে কার্যকর GPU ব্যবহার কমাতে পারে।

এই ধরনের প্রকল্পের জন্য সাধারণ প্রয়োজনীয়তার মধ্যে রয়েছে কালেক্টিভ অপারেশনের জন্য ডিটারমিনিস্টিক লো ল্যাটেন্সি, RDMA এবং NVMe over Fabrics-এর জন্য লসলেস ট্রান্সপোর্ট, ফ্যাব্রিককে ফ্ল্যাট রাখার জন্য উচ্চ র‍্যাডিক্স, এবং বিদ্যমান বিনিয়োগ রক্ষা করে এমন একটি স্পষ্ট আপগ্রেড পাথ। NVIDIA Mellanox MQM9790-NS2F Quantum-2 পরিবারের মধ্যে একটি 400Gb/s NDR ইনফিনিব্যান্ড সুইচ হিসাবে এই প্রয়োজনীয়তাগুলি পূরণ করার জন্য অবস্থান করছে।

সামগ্রিক নেটওয়ার্ক এবং সিস্টেম আর্কিটেকচার ডিজাইন

প্রস্তাবিত আর্কিটেকচার হল একটি দুই-স্তর বিশিষ্ট স্পাইন-লিফ ইনফিনিব্যান্ড ফ্যাব্রিক যা সম্পূর্ণরূপে NDR লিঙ্কের উপর নির্মিত। লিফ সুইচগুলি GPU সার্ভার, স্টোরেজ টার্গেট এবং ম্যানেজমেন্ট নোডগুলিকে সংযুক্ত করে, যখন স্পাইন সুইচগুলি ইন্টার-লিফ সংযোগ এবং পাথ ডাইভারসিটি সরবরাহ করে। এই ডিজাইনটি হপ সংখ্যা কম রাখে এবং ইস্ট-ওয়েস্ট ট্র্যাফিকের জন্য নন-ব্লকিং ব্যান্ডউইথ নিশ্চিত করে, যা AI এবং HPC ওয়ার্কলোডগুলিতে প্রভাবশালী।

এন্ডপয়েন্ট স্তরে, হোস্ট চ্যানেল অ্যাডাপ্টারগুলি RDMA মোডে কাজ করে, CPU হস্তক্ষেপ ছাড়াই মেমরি-টু-মেমরি স্থানান্তর করার অনুমতি দেয়। ফ্যাব্রিক নিজেই কনজেশন কন্ট্রোল, অ্যাডাপ্টিভ রাউটিং এবং কালেক্টিভ অ্যাক্সিলারেশন পরিচালনা করে। ম্যানেজমেন্ট এবং টেলিমেট্রি ট্র্যাফিক একই ফিজিক্যাল পরিকাঠামো শেয়ার করে কিন্তু QoS নীতির মাধ্যমে বিচ্ছিন্ন থাকে, তাই মনিটরিং প্রোডাকশন ওয়ার্কলোডগুলিতে হস্তক্ষেপ করে না।

মূল ডিজাইন নীতিগুলির মধ্যে রয়েছে:

• ল্যাটেন্সি কমাতে এবং সমস্যা সমাধানের জন্য ফ্ল্যাট টপোলজি
• স্তরগুলির মধ্যে নন-ব্লকিং বা লো-ওভারসাবস্ক্রিপশন লিঙ্ক
• মিশ্র-প্রজন্মের বাধা এড়াতে সামঞ্জস্যপূর্ণ NDR এন্ড-টু-এন্ড
• উচ্চ উপলব্ধতা এবং লোড ব্যালেন্সিংয়ের জন্য রিডান্ড্যান্ট পাথ
• অপারেশনাল সামঞ্জস্যের জন্য স্ট্যান্ডার্ড ইনফিনিব্যান্ড ম্যানেজমেন্ট

NVIDIA Mellanox MQM9790-NS2F-এর ভূমিকা এবং মূল বৈশিষ্ট্য

NVIDIA Mellanox MQM9790-NS2F এই ফ্যাব্রিকের বিল্ডিং ব্লক হিসাবে কাজ করে। একটি MQM9790-NS2F 400Gb/s NDR 64-পোর্ট OSFP সুইচ হিসাবে, এটি একটি একক ইউনিটে উচ্চ পোর্ট ঘনত্ব সরবরাহ করে, স্থপতিদের কম স্তর সহ একটি ফ্ল্যাটার নেটওয়ার্ক ডিজাইন করতে সক্ষম করে। প্রতিটি OSFP পোর্ট NDR গতিতে কাজ করতে পারে, এবং 64-পোর্ট কনফিগারেশন উচ্চ-র‍্যাডিক্স লিফ এবং স্পাইন ভূমিকা সমর্থন করে।

MQM9790-NS2F স্পেসিফিকেশন পর্যালোচনা করা দলগুলির জন্য, প্ল্যাটফর্মটি কালেক্টিভ অ্যাক্সিলারেশন, উন্নত কনজেশন কন্ট্রোল এবং অ্যাডাপ্টিভ রাউটিংয়ের জন্য NVIDIA SHARPv3 সমর্থন করে। এই বৈশিষ্ট্যগুলি সরাসরি AI প্রশিক্ষণ এবং MPI ওয়ার্কলোডগুলিতে সাধারণ টেইল ল্যাটেন্সি এবং ইনকাস্ট সমস্যাগুলিকে লক্ষ্য করে। MQM9790-NS2F ইনফিনিব্যান্ড সুইচটি স্ট্যান্ডার্ড ইনফিনিব্যান্ড ম্যানেজমেন্ট টুলগুলির সাথেও একীভূত হয়, যা অপারেশনাল লার্নিং কার্ভকে হ্রাস করে।

একটি MQM9790-NS2F ইনফিনিব্যান্ড সুইচ সমাধান পরিকল্পনা করার সময়, স্থপতিদের MQM9790-NS2F সামঞ্জস্যপূর্ণ উপাদানগুলি নিশ্চিত করা উচিত, যার মধ্যে OSFP কেবল, হোস্ট চ্যানেল অ্যাডাপ্টার এবং ফার্মওয়্যার সংস্করণ রয়েছে। ডিজাইন পর্যায়ে প্রথম দিকে MQM9790-NS2F ডেটাশিট পর্যালোচনা করা ক্রয় করার আগে পাওয়ার, কুলিং এবং র্যাক স্পেসের প্রয়োজনীয়তা যাচাই করতে সহায়তা করে।

স্থাপনা এবং স্কেলিংয়ের জন্য সুপারিশ

একটি সাধারণ স্থাপনা 32 থেকে 64টি GPU নোডের একটি পাইলট পড দিয়ে শুরু হয় যা MQM9790-NS2F লিফ সুইচগুলির একটি জোড়ার সাথে সংযুক্ত। ক্লাস্টার বাড়ার সাথে সাথে স্পাইন সংযোগ যুক্ত করা হয়, নন-ব্লকিং ব্যান্ডউইথ বজায় রাখার জন্য অতিরিক্ত MQM9790-NS2F ইউনিট ব্যবহার করে। এই ক্রমবর্ধমান পদ্ধতিটি পূর্ণ-স্কেল রোলআউটের আগে ল্যাটেন্সি এবং থ্রুপুট যাচাই করার অনুমতি দেয়।

স্কেলিংয়ের জন্য, প্রস্তাবিত অনুশীলন হল ফ্যাব্রিককে প্রতিসম রাখা: লিফ এবং স্পাইন ক্ষমতাকে মিলযুক্ত বৃদ্ধিতে যুক্ত করুন যাতে ওভারসাবস্ক্রিপশন অনুপাত অনুমানযোগ্য থাকে। কেবল ব্যবস্থাপনা এবং পোর্ট লেবেলিং শুরু থেকেই মানসম্মত করা উচিত, কারণ উচ্চ-ঘনত্বের OSFP স্থাপনাগুলি বজায় রাখা কঠিন হতে পারে যদি ফিজিক্যাল লেআউট অসঙ্গত হয়।

নীচের টেবিলটি একটি প্রতিনিধি দুই-স্তর বিশিষ্ট ডিজাইন বিবেচনার সারসংক্ষেপ করে:

অপারেশন, মনিটরিং, সমস্যা সমাধান, এবং অপ্টিমাইজেশন

অপারেশনাল সাফল্য দৃশ্যমানতার উপর নির্ভর করে। ইনফিনিব্যান্ড ফ্যাব্রিকগুলি লিঙ্ক ত্রুটি, কনজেশন ইভেন্ট এবং বাফার ব্যবহারের জন্য কাউন্টার সরবরাহ করে। এগুলি ক্রমাগত সংগ্রহ করা উচিত এবং জব শিডিউলার ডেটার সাথে সম্পর্কযুক্ত করা উচিত, যাতে পারফরম্যান্স রিগ্রেশনগুলি নির্দিষ্ট ফ্যাব্রিক সেগমেন্টগুলিতে অনুমান করার পরিবর্তে চিহ্নিত করা যায়।

সাধারণ সমস্যা সমাধানের পরিস্থিতিতে ক্রেডিট স্টল, ভুল কনফিগার করা QoS, এবং সুইচ এবং অ্যাডাপ্টারগুলির মধ্যে ফার্মওয়্যার অমিল অন্তর্ভুক্ত। একটি কাঠামোগত চেকলিস্ট—লিঙ্ক গতি যাচাই করুন, ত্রুটি কাউন্টার পরীক্ষা করুন, রাউটিং নীতি নিশ্চিত করুন, কনজেশন টেলিমেট্রি পরিদর্শন করুন—সমাধানের গড় সময় কমাতে পারে। অপ্টিমাইজেশন প্রচেষ্টাগুলি গড় থ্রুপুট এর পরিবর্তে টেইল ল্যাটেন্সির উপর ফোকাস করা উচিত, কারণ AI এবং HPC ওয়ার্কলোডগুলি সবচেয়ে খারাপ-ক্ষেত্রের আচরণের প্রতি সংবেদনশীল।

ক্রয় এবং লাইফসাইকেল পরিকল্পনার জন্য, দলগুলি প্রায়শই অনুমোদিত চ্যানেলগুলিতে MQM9790-NS2F মূল্য এবং বিক্রয়ের জন্য MQM9790-NS2F বিকল্পগুলি তুলনা করে। মূল্য কনফিগারেশন, সমর্থন স্তর এবং অঞ্চলের উপর নির্ভর করে, তাই পরিবেশকদের এবং NVIDIA এন্টারপ্রাইজ প্রতিনিধিদের সাথে প্রাথমিক যোগাযোগ সুপারিশ করা হয়।

NVIDIA Mellanox MQM9790-NS2F RDMA, HPC, এবং AI ক্লাস্টার ইন্টারকানেক্টের জন্য একটি উচ্চ-র‍্যাডিক্স, 400Gb/s NDR ভিত্তি সরবরাহ করে। ফ্যাব্রিক স্তরগুলি হ্রাস করে, কালেক্টিভ অ্যাক্সিলারেশন সমর্থন করে এবং লসলেস লো-ল্যাটেন্সি ট্রান্সপোর্ট সক্ষম করে, এটি পারফরম্যান্স বাধাগুলি সমাধান করে যা বাস্তব-বিশ্বের ক্লাস্টারের দক্ষতাকে সীমাবদ্ধ করে। নেটওয়ার্ক স্থপতি এবং প্রি-সেলস ইঞ্জিনিয়ারদের জন্য, এটি পরবর্তী প্রজন্মের ইনফিনিব্যান্ড ফ্যাব্রিকগুলির জন্য একটি ব্যবহারিক এবং স্কেলযোগ্য বিল্ডিং ব্লক উপস্থাপন করে।