এনভিডিয়া মেলানক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০ ইনফিনিব্যান্ড সুইচ টেকনিক্যাল সলিউশন

NVIDIA Mellanox 920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ টেকনিক্যাল সলিউশন｜RDMA, HPC, এবং AI ক্লাস্টারের জন্য লো-ল্যাটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশন

প্রকল্পের পটভূমি এবং প্রয়োজনীয়তা বিশ্লেষণ

AI প্রশিক্ষণ, HPC সিমুলেশন, এবং ডিস্ট্রিবিউটেড স্টোরেজ সমর্থনকারী আধুনিক ডেটা সেন্টারগুলি নেটওয়ার্ক স্তরে ব্যান্ডউইথ এবং ল্যাটেন্সি উভয়ের উপর দ্বৈত চাপের সম্মুখীন হয়। GPU নোডের ঘনত্ব বাড়তে থাকে, যখন ইন্টার-নোড যোগাযোগের টেইল ল্যাটেন্সি এবং জিটার সামগ্রিক ক্লাস্টারের দক্ষতার সীমাবদ্ধ কারণ হয়ে দাঁড়ায়। অনেক সংস্থার জন্য, ব্যবহারিক প্রশ্নটি 400Gb/s NDR গ্রহণ করা হবে কিনা তা নয়, বরং কীভাবে একটি প্রমাণিত, সাশ্রয়ী HDR ফ্যাব্রিক তৈরি করা যায় যা এখনও ডিটারমিনিস্টিক পারফরম্যান্স সরবরাহ করে।

এই ধরনের প্রকল্পের জন্য সাধারণ প্রয়োজনীয়তার মধ্যে রয়েছে লো-ল্যাটেন্সি RDMA পরিবহন, লসলেস ফ্যাব্রিক আচরণ, বিদ্যমান EDR এবং FDR পরিকাঠামোর সাথে পশ্চাৎ সামঞ্জস্যতা এবং একটি স্পষ্ট স্কেলিং পথ। NVIDIA Mellanox 920-9B110-00FH-0D0 NVIDIA Quantum পরিবারের মধ্যে একটি 200Gb/s HDR ইনফিনিব্যান্ড সুইচ হিসাবে এই প্রয়োজনীয়তাগুলি পূরণ করার জন্য অবস্থান করছে।

সামগ্রিক নেটওয়ার্ক এবং সিস্টেম আর্কিটেকচার ডিজাইন

প্রস্তাবিত আর্কিটেকচার হল 200Gb/s HDR লিঙ্কের উপর নির্মিত একটি দুই-স্তর বিশিষ্ট স্পাইন-লিফ ইনফিনিব্যান্ড ফ্যাব্রিক। লিফ সুইচগুলি কম্পিউট নোড, স্টোরেজ টার্গেট এবং ম্যানেজমেন্ট সার্ভারগুলিকে সংযুক্ত করে, যখন স্পাইন সুইচগুলি ইন্টার-লিফ সংযোগ এবং পাথ ডাইভারসিটি সরবরাহ করে। এই ডিজাইনটি হপ সংখ্যা কম রাখে এবং ইস্ট-ওয়েস্ট ট্র্যাফিকের জন্য নন-ব্লকিং ব্যান্ডউইথ নিশ্চিত করে, যা HPC এবং AI ওয়ার্কলোডগুলিতে প্রভাবশালী।

এন্ডপয়েন্ট স্তরে, হোস্ট চ্যানেল অ্যাডাপ্টারগুলি RDMA মোডে কাজ করে, সিপিইউ হস্তক্ষেপ ছাড়াই মেমরি-টু-মেমরি স্থানান্তর সক্ষম করে। ফ্যাব্রিক কনজেশন কন্ট্রোল, অ্যাডাপ্টিভ রাউটিং এবং কালেক্টিভ অ্যাক্সিলারেশন পরিচালনা করে। ম্যানেজমেন্ট এবং টেলিমেট্রি ট্র্যাফিক একই ফিজিক্যাল পরিকাঠামো শেয়ার করে কিন্তু QoS নীতিগুলির মাধ্যমে বিচ্ছিন্ন করা হয় যাতে মনিটরিং প্রোডাকশন ওয়ার্কলোডগুলিতে হস্তক্ষেপ না করে।

মূল ডিজাইন নীতিগুলির মধ্যে রয়েছে:

• ল্যাটেন্সি কমাতে এবং সমস্যা সমাধানে সহজ করার জন্য ফ্ল্যাট টপোলজি
• স্তরগুলির মধ্যে নন-ব্লকিং বা লো-ওভারসাবস্ক্রিপশন লিঙ্ক
• প্রয়োজনে EDR/FDR পশ্চাৎ সামঞ্জস্যতা সহ সামঞ্জস্যপূর্ণ HDR এন্ড-টু-এন্ড
• উচ্চ উপলব্ধতা এবং লোড ব্যালেন্সিংয়ের জন্য রিডান্ড্যান্ট পাথ
• অপারেশনাল সামঞ্জস্যের জন্য স্ট্যান্ডার্ড ইনফিনিব্যান্ড ম্যানেজমেন্ট

NVIDIA Mellanox 920-9B110-00FH-0D0 এর ভূমিকা এবং মূল বৈশিষ্ট্য

NVIDIA Mellanox 920-9B110-00FH-0D0 এই ফ্যাব্রিকের মূল বিল্ডিং ব্লক হিসাবে কাজ করে। একটি 920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDR প্ল্যাটফর্ম হিসাবে, এটি 1U ফর্ম ফ্যাক্টরে 40 QSFP56 পোর্ট এবং 16Tb/s নন-ব্লকিং সুইচিং ক্ষমতা সরবরাহ করে। এই ঘনত্ব উচ্চ-রেডিক্স লিফ ভূমিকা সমর্থন করে এবং ঘন র্যাকগুলিতে ক্যাবলিং সহজ করে।

920-9B110-00FH-0D0 স্পেসিফিকেশন পর্যালোচনা করা দলগুলির জন্য, সুইচটি RDMA, MPI, এবং কালেক্টিভ অপারেশন অফলোডের জন্য NVIDIA SHARP সমর্থন করে। উন্নত কনজেশন কন্ট্রোল এবং অ্যাডাপ্টিভ রাউটিং AI প্রশিক্ষণ এবং MPI ওয়ার্কলোডগুলিতে সাধারণ টেইল ল্যাটেন্সি এবং ইনকাস্ট সমস্যাগুলিকে লক্ষ্য করে। 920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ OPN স্ট্যান্ডার্ড ইনফিনিব্যান্ড ম্যানেজমেন্ট টুলগুলির সাথেও একীভূত হয়, অপারেশনাল লার্নিং কার্ভ হ্রাস করে।

একটি 920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ OPN সমাধান পরিকল্পনা করার সময়, স্থপতিদের 920-9B110-00FH-0D0 সামঞ্জস্যপূর্ণ উপাদানগুলি নিশ্চিত করা উচিত, যার মধ্যে QSFP56 কেবল, হোস্ট চ্যানেল অ্যাডাপ্টার এবং ফার্মওয়্যার সংস্করণ রয়েছে। ডিজাইন পর্যায়ে 920-9B110-00FH-0D0 ডেটাশিট পর্যালোচনা করা ক্রয় করার আগে পাওয়ার, কুলিং এবং র্যাক স্পেসের প্রয়োজনীয়তা যাচাই করতে সহায়তা করে।

স্থাপনা এবং স্কেলিংয়ের সুপারিশ

একটি সাধারণ স্থাপনা 32 থেকে 64 কম্পিউট নোডের একটি পাইলট পড দিয়ে শুরু হয় যা দুটি 920-9B110-00FH-0D0 লিফ সুইচের সাথে সংযুক্ত। স্পাইন সংযোগ ক্লাস্টার বৃদ্ধির সাথে সাথে যুক্ত করা হয়, লিফগুলির মধ্যে নন-ব্লকিং ব্যান্ডউইথ বজায় রাখে। এই ক্রমবর্ধমান পদ্ধতিটি পূর্ণ-স্কেল রোলআউটের আগে ল্যাটেন্সি এবং থ্রুপুট যাচাই করার অনুমতি দেয়।

স্কেলিংয়ের জন্য, ফ্যাব্রিকটিকে প্রতিসম রাখুন: লিফ এবং স্পাইন ক্ষমতাগুলি মিলিয়ে বাড়ান যাতে ওভারসাবস্ক্রিপশন অনুপাত অনুমানযোগ্য থাকে। ক্যাবল ম্যানেজমেন্ট এবং পোর্ট লেবেলিং শুরু থেকেই মানসম্মত হওয়া উচিত, কারণ উচ্চ-ঘনত্বের QSFP56 স্থাপনাগুলি বজায় রাখা কঠিন হয়ে পড়ে যদি ফিজিক্যাল লেআউট অসঙ্গত হয়।

নীচের টেবিলটি একটি প্রতিনিধি দুই-স্তর বিশিষ্ট ডিজাইন বিবেচনার সারসংক্ষেপ করে:

অপারেশন, মনিটরিং, সমস্যা সমাধান এবং অপ্টিমাইজেশন

অপারেশনাল সাফল্য দৃশ্যমানতার উপর নির্ভর করে। ইনফিনিব্যান্ড ফ্যাব্রিকগুলি লিঙ্ক ত্রুটি, কনজেশন ইভেন্ট এবং বাফার ব্যবহারের জন্য কাউন্টার সরবরাহ করে। এগুলি ক্রমাগত সংগ্রহ করা উচিত এবং জব শিডিউলার ডেটার সাথে সম্পর্কযুক্ত করা উচিত, যাতে পারফরম্যান্স রিগ্রেশনগুলি নির্দিষ্ট ফ্যাব্রিক সেগমেন্টগুলিতে ট্রেস করা যায় অনুমান করার পরিবর্তে।

সাধারণ সমস্যা সমাধানের পরিস্থিতিতে ক্রেডিট স্টল, ভুল কনফিগার করা QoS এবং সুইচ এবং অ্যাডাপ্টারগুলির মধ্যে ফার্মওয়্যার অমিল অন্তর্ভুক্ত। একটি কাঠামোগত চেকলিস্ট—লিঙ্ক গতি যাচাই করুন, ত্রুটি কাউন্টারগুলি পরীক্ষা করুন, রাউটিং নীতি নিশ্চিত করুন, কনজেশন টেলিমেট্রি পরিদর্শন করুন—সমাধানের গড় সময় কমাতে পারে। অপ্টিমাইজেশন প্রচেষ্টাগুলি গড় থ্রুপুটের পরিবর্তে টেইল ল্যাটেন্সির উপর ফোকাস করা উচিত, কারণ HPC এবং AI ওয়ার্কলোডগুলি সবচেয়ে খারাপ-কেস আচরণের প্রতি সংবেদনশীল।

ক্রয় এবং লাইফসাইকেল পরিকল্পনার জন্য, দলগুলি প্রায়শই অনুমোদিত চ্যানেলগুলিতে 920-9B110-00FH-0D0 মূল্য এবং 920-9B110-00FH-0D0 বিক্রয়ের বিকল্পগুলি তুলনা করে। মূল্য কনফিগারেশন, সমর্থন স্তর এবং অঞ্চলের উপর নির্ভর করে, তাই পরিবেশকদের এবং NVIDIA এন্টারপ্রাইজ প্রতিনিধিদের সাথে প্রাথমিক যোগাযোগ সুপারিশ করা হয়।

সারসংক্ষেপ এবং মূল্য মূল্যায়ন

NVIDIA Mellanox 920-9B110-00FH-0D0 RDMA, HPC, এবং AI ক্লাস্টার ইন্টারকানেক্টের জন্য একটি প্রমাণিত 200Gb/s HDR ভিত্তি সরবরাহ করে। ফ্যাব্রিক স্তরগুলি হ্রাস করে, কালেক্টিভ অ্যাক্সিলারেশন সমর্থন করে এবং লসলেস লো-ল্যাটেন্সি পরিবহন সক্ষম করে, এটি সেই বাধাগুলি সমাধান করে যা বাস্তব-বিশ্বের ক্লাস্টারের দক্ষতাকে সীমাবদ্ধ করে। নেটওয়ার্ক স্থপতি এবং প্রি-সেলস ইঞ্জিনিয়ারদের জন্য, এটি একটি স্পষ্ট ভবিষ্যতের পথ সহ HDR ইনফিনিব্যান্ড ফ্যাব্রিকগুলির জন্য একটি ব্যবহারিক এবং স্কেলযোগ্য বিল্ডিং ব্লক উপস্থাপন করে।