NVIDIA Mellanox 920-9B110-00FH-0D0 বাস্তবে: HPC এবং AI ক্লাস্টারের জন্য লো-ল্যাটেন্সি RDMA ফ্যাব্রিক অপ্টিমাইজ করা

NVIDIA Mellanox 920-9B110-00FH-0D0 বাস্তবে: HPC এবং AI ক্লাস্টারের জন্য লো-ল্যাটেন্সি RDMA ফ্যাব্রিক অপ্টিমাইজ করা

পটভূমি এবং চ্যালেঞ্জ: যখন HDR পারফরম্যান্স বাজেট বাস্তবতার সাথে মিলিত হয়

একটি মাঝারি আকারের এআই গবেষণা পরীক্ষাগার সম্প্রতি একটি পরিচিত চ্যালেঞ্জের মুখোমুখি হয়েছিল: তাদের বিদ্যমান 100Gb/s EDR InfiniBand ফ্যাব্রিক তাদের ক্রমবর্ধমান GPU ক্লাস্টারের জন্য একটি বাধা হয়ে দাঁড়িয়েছিল, যা 128 থেকে 512 NVIDIA A100 নোডে বৃদ্ধি পেয়েছিল। অল-রিডিউস অপারেশনের সময় নেটওয়ার্ক কনজেশন (জট) এর কারণে বড় আকারের ট্রান্সফরমার মডেলগুলির প্রশিক্ষণের সময় 40% এর বেশি বৃদ্ধি পেয়েছিল এবং দলটি একটি সম্পূর্ণ 400Gb/s NDR স্থাপনের জন্য প্রয়োজনীয় মূলধন ব্যয় ছাড়াই উল্লেখযোগ্য পারফরম্যান্স লাভ সরবরাহ করতে সক্ষম একটি আপগ্রেডের প্রয়োজন ছিল।

পরীক্ষাগারটি বেশ কয়েকটি বিকল্প মূল্যায়ন করেছিল এবং পারফরম্যান্স এবং ব্যয়ের মধ্যে আদর্শ ভারসাম্য হিসাবে 200Gb/s HDR চিহ্নিত করেছিল। তবে, তাদের একটি সুইচের প্রয়োজন ছিল যা উচ্চ পোর্ট ঘনত্ব, উন্নত কনজেশন নিয়ন্ত্রণ এবং তাদের বিদ্যমান HDR-সামঞ্জস্যপূর্ণ কেবল এবং ট্রান্সসিভারগুলির সাথে নির্বিঘ্ন একীকরণ সরবরাহ করতে পারে। ঠিক এখানেই NVIDIA Mellanox 920-9B110-00FH-0D0 ছবিতে প্রবেশ করেছে—একটি সুইচ যা বিশেষভাবে এমন পরিবেশের জন্য তৈরি করা হয়েছে যেখানে HDR অতিরিক্ত ব্যবস্থা ছাড়াই পর্যাপ্ত ব্যান্ডউইথ সরবরাহ করে।

সমাধান এবং স্থাপন: একটি ব্যয়-অপ্টিমাইজড HDR ফ্যাব্রিক

পরীক্ষাগারটি তাদের নতুন লিফ-স্পাইন আর্কিটেকচারের ভিত্তি হিসাবে 920-9B110-00FH-0D0 InfiniBand সুইচ OPN (অর্ডার পার্ট নম্বর) স্থাপন করেছে। প্রতিটি কম্পিউট র্যাক একটি MQM8790-HS2F-ভিত্তিক সুইচ পেয়েছে—920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDR-এর অন্তর্নিহিত সিলিকন প্ল্যাটফর্ম—OSFP-to-OSFP ডাইরেক্ট-অ্যাটাচ কেবলগুলির মাধ্যমে GPU সার্ভারগুলিতে 200Gb/s সংযোগের 40টি পোর্ট সরবরাহ করে। স্পাইন স্তরে, চারটি অতিরিক্ত 920-9B110-00FH-0D0 সুইচ সমস্ত লিফ সুইচগুলিকে ইন্টারকানেক্ট করেছে, সম্পূর্ণ বাইসেকশন ব্যান্ডউইথ সহ একটি নন-ব্লকিং ফ্যাট-ট্রি ফ্যাব্রিক তৈরি করেছে।

এই স্থাপনাকে বিশেষভাবে কার্যকর করে তুলেছে সুইচের সমন্বিত SHARPv2 (স্কেলেবল হায়ারার্কিকাল এগ্রিগেশন এবং রিডাকশন প্রোটোকল) প্রযুক্তি, যা সরাসরি সুইচ ফ্যাব্রিকের উপর কালেক্টিভ কমিউনিকেশন অপারেশনগুলি অফলোড করেছে। বাস্তবে, এর অর্থ হল অল-রিডিউস অপারেশনগুলি, যা পূর্বে উল্লেখযোগ্য হোস্ট সিপিইউ সাইকেল এবং নেটওয়ার্ক ব্যান্ডউইথ ব্যবহার করত, এখন ফ্যাব্রিক জুড়ে একটি একক পাসে সম্পন্ন হয়েছে—চাকরির সমাপ্তির সময়কে নাটকীয়ভাবে হ্রাস করেছে।

920-9B110-00FH-0D0 ডেটাশিট অনুসারে, সুইচটি সাব-200ns কাট-থ্রু ল্যাটেন্সি সরবরাহ করে, যা পরীক্ষাগারের পারফরম্যান্স প্রয়োজনীয়তার সাথে ঘনিষ্ঠভাবে মিলে যায়। ইঞ্জিনিয়ারিং টিম আরও নিশ্চিত করেছে যে 920-9B110-00FH-0D0 সামঞ্জস্যপূর্ণ ইকোসিস্টেমটিতে তারা ইতিমধ্যে যে সমস্ত কেবল প্রকার এবং অপটিক্স মানসম্মত করেছে তা অন্তর্ভুক্ত রয়েছে, ব্যয়বহুল রিক্যাবলিং প্রচেষ্টার প্রয়োজনীয়তা দূর করে।

ফলাফল এবং পরিমাপযোগ্য লাভ: বাধা থেকে সক্ষমকারী পর্যন্ত

স্থাপনার পরে, পরীক্ষাগারটি বেশ কয়েকটি গুরুত্বপূর্ণ মাত্রায় উন্নতি পরিমাপ করেছে:

• চাকরির সমাপ্তির সময় হ্রাস: 13B-প্যারামিটার মডেলের জন্য প্রশিক্ষণের পুনরাবৃত্তি 35% হ্রাস পেয়েছে, যেখানে অল-রিডিউস ল্যাটেন্সি সাধারণ কালেক্টিভ আকারের জন্য 12μs থেকে 5μs এর নিচে নেমে গেছে।
• নেটওয়ার্ক ব্যবহার: কনজেশন ট্রিগার না করেই গড় ফ্যাব্রিক ব্যবহার 58% থেকে 83% এ বৃদ্ধি পেয়েছে, সুইচের অ্যাডাপ্টিভ রাউটিং এবং কনজেশন নিয়ন্ত্রণ ব্যবস্থার জন্য ধন্যবাদ।
• বিদ্যুৎ এবং শীতলকরণ দক্ষতা: পূর্ববর্তী EDR ফ্যাব্রিকের তুলনায়, নতুন HDR পরিকাঠামো প্রতি-পোর্ট বিদ্যুৎ খরচ 30% হ্রাস করেছে, পরীক্ষাগারকে তাদের ডেটা সেন্টার পাওয়ার বাজেটের বাইরে না গিয়ে আরও বেশি কম্পিউট নোড যুক্ত করার অনুমতি দিয়েছে।

মোট মালিকানা ব্যয়ের দৃষ্টিকোণ থেকে, 920-9B110-00FH-0D0 মূল্য প্রতি পোর্ট NDR বিকল্পগুলির চেয়ে উল্লেখযোগ্যভাবে কম ছিল, পরীক্ষাগারকে তাদের বিদ্যমান বাজেটের মধ্যে তাদের সম্পূর্ণ ফ্যাব্রিক আপগ্রেড করার অনুমতি দিয়েছে। 920-9B110-00FH-0D0 স্পেসিফিকেশন এছাড়াও সুইচের ডুয়াল-রিডান্ড্যান্ট পাওয়ার সাপ্লাই এবং হট-সোয়াপযোগ্য ফ্যান মডিউলগুলি তুলে ধরেছে, যা তাদের প্রোডাকশন ট্রেনিং জবগুলির জন্য 99.999% উপলব্ধতার পরীক্ষাগারের লক্ষ্যে অবদান রেখেছে।

নেটওয়ার্ক ইঞ্জিনিয়াররা উল্লেখ করেছেন যে 920-9B110-00FH-0D0 InfiniBand সুইচ OPN সমাধান NVIDIA-এর ইউনিফাইড ফ্যাব্রিক ম্যানেজার (UFM) এর সাথে নির্বিঘ্নে একীভূত হয়েছে, যা ফ্যাব্রিক স্বাস্থ্য এবং স্বয়ংক্রিয় সতর্কতার উপর কেন্দ্রীভূত দৃশ্যমানতা প্রদান করে। এটি নেটওয়ার্ক পরিচালনার পরিবর্তে তাদের প্রশিক্ষণ পাইপলাইনগুলি অপ্টিমাইজ করার উপর ফোকাস করার জন্য দলকে মুক্ত করে, সমস্যা সমাধান এবং সক্রিয় রক্ষণাবেক্ষণে ব্যয় করা সময়কে উল্লেখযোগ্যভাবে হ্রাস করেছে।

সারসংক্ষেপ এবং পূর্বাভাস: সঠিক আকারের HDR ভিত্তি

NVIDIA Mellanox 920-9B110-00FH-0D0 এই গবেষণা পরীক্ষাগারের জন্য সঠিক পছন্দ প্রমাণিত হয়েছে, 200Gb/s HDR-এর পারফরম্যান্স একটি ব্যয় কাঠামোতে সরবরাহ করেছে যা ব্যবসায়িক অর্থে তৈরি হয়েছে। সুইচের 40-পোর্ট ঘনত্ব, ইন-নেটওয়ার্ক কম্পিউটিং ক্ষমতা এবং শক্তিশালী ব্যবস্থাপনা বৈশিষ্ট্যগুলি ব্যবহার করে, পরীক্ষাগার তাদের নেটওয়ার্ককে পারফরম্যান্স বাধা থেকে ভবিষ্যতের বৃদ্ধির জন্য একটি পরিমাপযোগ্য ভিত্তিতে রূপান্তরিত করেছে।

সামনে তাকিয়ে, পরীক্ষাগারটি আগামী 18 মাসের মধ্যে তাদের ক্লাস্টারকে 1,024 নোডে স্কেল করার পরিকল্পনা করছে। একাধিক স্পাইন টায়ারের মাধ্যমে বৃহত্তর টপোলজিগুলির জন্য 920-9B110-00FH-0D0-এর সমর্থন সহ, তাদের আত্মবিশ্বাস রয়েছে যে তাদের নেটওয়ার্ক তাদের কম্পিউট ক্ষমতার সাথে তাল মিলিয়ে বাড়তে পারে। তাদের HDR পরিকাঠামো বিকল্পগুলি মূল্যায়নকারী সংস্থাগুলির জন্য, 920-9B110-00FH-0D0 বিক্রয়ের জন্য NVIDIA-এর চ্যানেল অংশীদারদের মাধ্যমে একটি আকর্ষণীয়, প্রোডাকশন-ভ্যালিডেটেড সমাধান সরবরাহ করে যা পারফরম্যান্স, ঘনত্ব এবং ব্যয়ের ভারসাম্য বজায় রাখে।