মেলানক্স (এনভিআইডিআইএ মেলানক্স) 920-9B110-00FH-0D0 ইনফিনিব্যান্ড স্যুইচ ইন অ্যাকশন ✅ লো-লেটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশন

মেলানক্স (এনভিআইডিআইএ মেলানক্স) 920-9B110-00FH-0D0 ইনফিনিব্যান্ড স্যুইচ অ্যাকশনে ¢ আরডিএমএ / এইচপিসি / এআই ক্লাস্টারগুলির জন্য লো-লেটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশন

একটি আঞ্চলিক সুপারকম্পিউটিং কেন্দ্র সম্প্রতি তার এআই কম্পিউটিং অবকাঠামোর একটি বড় আপগ্রেড করেছে,বড় আকারের ভাষা মডেল প্রশিক্ষণ এবং জিনোমিক সিকোয়েন্সিং ওয়ার্কলোড সমর্থন করার জন্য 64 থেকে 256 এনভিআইডিআইএ এ 100 জিপিইউতে প্রসারিততবে, বিদ্যমান 100GbE RoCEv2 নেটওয়ার্কটি একটি স্থায়ী বোতল ঘা হয়ে উঠেছে frequent ঘন ঘন PFC ঝড়, অনির্দেশ্য লেটেনসি,এবং জটিল ইসিএন টিউনিং উল্লেখযোগ্য প্রকৌশল প্রচেষ্টা খরচ এবং 40% এরও বেশি কাজ সমাপ্তির সময় প্রসারিতএই কেস স্টাডিতে কেন্দ্রটি কীভাবেমেলানক্স (এনভিআইডিআইএ মেলানক্স) ৯২০-৯বি১১০-০০এফএইচ-০ডি০ইনফিনিব্যান্ড সুইচ তার ফ্যাব্রিককে রূপান্তর করতে, RDMA- নিবিড় অ্যাপ্লিকেশনগুলির জন্য নির্ধারক স্বল্প-ল্যাটেনসি ইন্টারকানেক্ট সরবরাহ করে।

ব্যাকগ্রাউন্ড ও চ্যালেঞ্জ ইথারনেট সিলিং

কেন্দ্রের প্রাথমিক আর্কিটেকচারে RoCEv2 সহ দুটি 100GbE পাতার সুইচ ব্যবহার করা হয়েছিল, যা জিপিইউ সার্ভার এবং একটি সমান্তরাল ফাইল সিস্টেমকে সংযুক্ত করে। প্রশিক্ষণের কাজগুলি স্কেল হওয়ার সাথে সাথে নেটওয়ার্কটি তিনটি সমালোচনামূলক সমস্যা প্রদর্শন করেছিলঃপ্রথম, পিএফসি (প্রাথমিকতা প্রবাহ নিয়ন্ত্রণ) ব্লকগুলি দৈনিক ঘটেছিল, ম্যানুয়াল রিসেটগুলি জোরদার করে; দ্বিতীয়ত, সমস্ত-হ্রাসকারী সম্মিলিত ক্রিয়াকলাপগুলি 200 μs এরও বেশি লেটেনসির অভিজ্ঞতা অর্জন করেছে, সরাসরি জিপিইউ ব্যবহারকে ধীর করে দিয়েছে;তৃতীয়, সমস্যা সমাধানের জন্য গভীর প্যাকেট পরিদর্শন প্রয়োজন, যা সময় সাপেক্ষে এবং খুব কমই সিদ্ধান্তমূলক ছিল। অপারেশন টিম বুঝতে পেরেছিল যে ইথারনেট, এমনকি RDMA এক্সটেনশানগুলির সাথেও,আর তিনি ক্ষয়-ক্ষতিহীনদের জীবিকা দিতে পারতেন না ।, পরবর্তী প্রজন্মের এআই ওয়ার্কলোডের জন্য প্রয়োজনীয় নির্ধারক কাঠামো।

সমাধান ও বাস্তবায়ন920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ OPNনিউ ব্যাকবোন হিসেবে

একাধিক বিকল্প মূল্যায়ন করার পর, কেন্দ্রটিএনভিআইডিআইএ মেলানোক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০স্যুইচ,920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDRএই প্ল্যাটফর্মটি দুটি স্তরের ফ্যাট-ট্রি টপোলজি ব্যবহার করেঃ চারটি920-9B110-00FH-0D0পাতাগুলির মতো সুইচ (প্রতিটি 200G লিঙ্কগুলির মাধ্যমে 64 জিপিইউ নোডগুলি সংযুক্ত করে) এবং স্পিন হিসাবে দুটি অতিরিক্ত ইউনিট সরবরাহ করে, সম্পূর্ণ বিভাজন ব্যান্ডউইথ সরবরাহ করে। সুইচগুলি বিদ্যমান কানেক্টএক্স -6 এইচডিআর অ্যাডাপ্টারগুলির সাথে যুক্ত করা হয়েছিল,ব্যবহার করে920-9B110-00FH-0D0 সামঞ্জস্যপূর্ণইকোসিস্টেম সুষ্ঠু সংহতকরণ নিশ্চিত করার জন্য।

• ক্যাবলিং:200 জি এইচডিআর অপটিক্যাল মডিউলগুলি 100 মিটার পর্যন্ত স্পাইন-লেফ দূরত্বের জন্য, ইনট্রা-রেক সংযোগের জন্য প্যাসিভ ডিএসি সহ।
• ব্যবস্থাপনা:এনভিআইডিআইএ ইউএফএম (ইউনিফাইড ফ্যাব্রিক ম্যানেজার) স্বয়ংক্রিয় টপোলজি আবিষ্কার, অভিযোজিত রাউটিং নীতি এবং রিয়েল-টাইম টেলিমেট্রি জন্য।
• সমষ্টিগত অবতরণঃSHARPv2 সমস্ত-হ্রাস অপারেশন ত্বরান্বিত করতে সক্ষম করেছে, হোস্ট সিপিইউগুলি থেকে কাজটি বন্ধ করে দিয়েছে এবং নেটওয়ার্ক চ্যাট হ্রাস করেছে।

দলটি920-9B110-00FH-0D0 তথ্য পত্রএবং920-9B110-00FH-0D0 স্পেসিফিকেশনবিদ্যুৎ ও শীতলীকরণের প্রয়োজনীয়তা যাচাই করার জন্য, সুইচটি 1U ফর্ম ফ্যাক্টর এবং 200G প্রতি পোর্ট ঘনত্বের সাথে অতিরিক্ত অবকাঠামোগত পরিবর্তন ছাড়াই বিদ্যমান র্যাকগুলিতে সূক্ষ্মভাবে ফিট করে।920-9B110-00FH-0D0 InfiniBand সুইচ OPN সমাধানএছাড়াও, সঠিক কনফিগারেশন নিশ্চিত করার জন্য সঠিক ওপিএন (অর্ডার পার্ট নম্বর) দিয়ে সরলীকৃত সংগ্রহ।

পরিমাপকৃত ফলাফল ও উপকারিতা ️ পরিমাপযোগ্য পারফরম্যান্স লাভ

দুই সপ্তাহের বাস্তবায়ন ও বৈধকরণের পর, কেন্দ্রটি মূল কর্মক্ষমতা সূচকগুলির মধ্যে উল্লেখযোগ্য উন্নতি নথিভুক্ত করেছে।নিম্নলিখিত টেবিলে একটি প্রতিনিধিত্বমূলক 256-GPU প্রশিক্ষণ কাজের জন্য আগে-এবং-পরে মেট্রিকগুলি সংক্ষিপ্ত করা হয়েছে (BERT- বড় প্রাক প্রশিক্ষণ):

সংখ্যা ছাড়াও, দলটি রিপোর্ট করেছে যেএনভিআইডিআইএ মেলানোক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০PFC পুনরুদ্ধারের জন্য পূর্বে প্রয়োজনীয় ম্যানুয়াল হস্তক্ষেপগুলি সম্পূর্ণরূপে নির্মূল করে একটি শূন্য-প্যাকেট-ড্রপ ফ্যাব্রিক সরবরাহ করেছে।920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ OPNএটি অপারেশন কর্মীদের প্রতি প্রবাহের ঘনত্ব এবং পথের ব্যবহারের উপর বিস্তারিত দৃশ্যমানতা প্রদান করে, যা সক্রিয় ক্ষমতা পরিকল্পনা সক্ষম করে।920-9B110-00FH-0D0 দাম৪০০ জি এনডিআর সুইচগুলিতে আপগ্রেড করার তুলনায় এটি ব্যয়-কার্যকর প্রমাণিত হয়েছে, এটিকে কেন্দ্রের মধ্য-পরিসীমা বাজেটের জন্য আদর্শ ফিট করে।

সংক্ষিপ্ত বিবরণ ও প্রত্যাশা ∙ নিম্ন-ল্যাটেনসি ইন্টারকানেকশনের একটি প্রমাণিত পথ

সুপারকম্পিউটিং সেন্টারের অভিজ্ঞতা দেখায় যেমেলানক্স (এনভিআইডিআইএ মেলানক্স) ৯২০-৯বি১১০-০০এফএইচ-০ডি০ইথারনেট ফ্যাব্রিক এবং ব্যয়বহুল হাই-এন্ড সমাধান উভয়ের জন্য একটি বাস্তবসম্মত, উচ্চ-পারফরম্যান্স বিকল্প সরবরাহ করে। 200 গিগাবাইট / সেকেন্ডের এইচডিআর থ্রুপুট সরবরাহ করে, 10 μs এর নিচে গড় বিলম্ব,এবং ক্ষতিহীন RDMA পরিবহন, স্যুইচটি সংস্থাগুলিকে তাদের জিপিইউ বিনিয়োগের পূর্ণ সম্ভাবনা উন্মোচন করতে সক্ষম করে AI এবং HPC ওয়ার্কলোডগুলির জন্য অন্তর্দৃষ্টির সময়কে ত্বরান্বিত করে।

সামনের দিকে তাকিয়ে, কেন্দ্রটি একই ব্যবহার করে ৫১২ টি জিপিইউতে তার ফ্যাব্রিক সম্প্রসারণের পরিকল্পনা করছে।920-9B110-00FH-0D0 InfiniBand সুইচ OPN সমাধান, বিদ্যমান মেরুদণ্ডের অবকাঠামো বজায় রেখে অতিরিক্ত পাতার সুইচ যুক্ত করে স্কেলিং।ভবিষ্যতের এনভিআইডিআইএ অ্যাডাপ্টারগুলির সাথে সুইচটির সামঞ্জস্যতা (কানেক্টএক্স-৭ সহ) একটি মসৃণ আপগ্রেড পথ নিশ্চিত করে. অনুরূপ আপগ্রেডগুলি মূল্যায়নকারী সংস্থাগুলির জন্য,920-9B110-00FH-0D0 স্পেসিফিকেশনএবং920-9B110-00FH-0D0 তথ্য পত্রসমস্ত প্রয়োজনীয় ডিজাইন পরামিতি প্রদান করে, এবং ইউনিটগুলি সহজেই পাওয়া যায় (বিক্রির জন্য 920-9B110-00FH-0D0অনুমোদিত চ্যানেলের মাধ্যমে) ।

এই বাস্তব-বিশ্বের প্রয়োগ নিশ্চিত করে যে920-9B110-00FH-0D0এটি একটি পণ্যের চেয়েও বেশি ঃ এটি কম-ল্যাটেনসি, উচ্চ-কার্যকারিতা ক্লাস্টার নেটওয়ার্কিংয়ের জন্য একটি প্রমাণিত সক্ষমক, যা পরবর্তী দশকের এআই এবং বৈজ্ঞানিক কম্পিউটিংয়ের চাহিদা মেটাতে প্রস্তুত।