NVIDIA Mellanox MQM9790-NS2F ইনফিনিব্যান্ড সুইচ বাস্তবে｜RDMA, HPC-এর জন্য লো-ল্যাটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশন

NVIDIA Mellanox MQM9790-NS2F ইনফিনিব্যান্ড স্যুইচ প্র্যাকটিক্যালভাবে RDMA, HPC, এবং AI ক্লাস্টারগুলির জন্য নিম্ন-ল্যাটেনসি ইন্টারকানেক্ট অপ্টিমাইজেশান

আধুনিক এআই প্রশিক্ষণ, এইচপিসি সিমুলেশন এবং বিতরণকৃত স্টোরেজ পরিবেশে, আসল বোতল ঘা কমই কাঁচা কম্পিউটিং শক্তি হয়। এটি নোড-টু-নোড ইন্টারকানেকশনের দক্ষতা।NVIDIA Mellanox MQM9790-NS2F, একটি 400 গিগাবাইট / সেকেন্ড এনডিআর ইনফিনিব্যান্ড সুইচ, স্ট্যাকের ঠিক এই স্তরটি মোকাবেলা করার জন্য ডিজাইন করা হয়েছে। এই নিবন্ধটি এমকিউএম 9790-এনএস 2 এফ কীভাবে আরডিএমএ উন্নত করে তা দেখানোর জন্য একটি প্রতিনিধিত্বমূলক স্থাপনার দৃশ্যকল্পের মধ্য দিয়ে যায়,এইচপিসি, এবং এআই ক্লাস্টার পারফরম্যান্স কম লেটেন্সি ফ্যাব্রিক ডিজাইনের মাধ্যমে।

ব্যাকগ্রাউন্ড এবং চ্যালেঞ্জ

একটি সাধারণ গবেষণা বা এন্টারপ্রাইজ এআই ক্লাস্টারে শত শত জিপিইউ সার্ভার, একটি সমান্তরাল ফাইল সিস্টেম এবং এমপিআই এবং এনসিসিএল ওয়ার্কলোড বিতরণকারী একটি কাজের সময়সূচী থাকতে পারে।প্রতিটি নোড একটি 200Gb / s HDR ফ্যাব্রিক আরামদায়কভাবে শোষণ করতে পারেন তুলনায় অনেক বেশি পূর্ব-পশ্চিম ট্রাফিক উৎপন্ন করতে পারেনদলগুলি সাধারণত তিনটি অসুবিধার কথা জানায়ঃ সমষ্টিগত ক্রিয়াকলাপের সময় লেজ লেটেন্সির বৃদ্ধি, কাপড়ের স্তর জুড়ে যানজট ছড়িয়ে পড়া এবং হপ যুক্ত না করে বন্দর গণনা করা কঠিন।

নেটওয়ার্ক আর্কিটেক্টদের জন্য, চ্যালেঞ্জটি কেবল লিঙ্ক গতি আপগ্রেড করা নয়। এটি অপ্রয়োজনীয় বিলম্ব এড়ানোর জন্য ফ্যাব্রিকটি পর্যাপ্তভাবে সমতল রেখে নির্ধারক, ক্ষতিহীন পরিবহন সংরক্ষণ করছে।এই যেখানে বাস্তব কাজ লোড প্রোফাইল বিরুদ্ধে MQM9790-NS2F স্পেসিফিকেশন মূল্যায়ন অপরিহার্য হয়ে ওঠে.

সমাধান এবং স্থাপনার পদ্ধতি

এই পরিস্থিতিতে ক্লাস্টারটি এমকিউএম 9790-এনএস 2 এফ ইনফিনিব্যান্ড সুইচটির চারপাশে নির্মিত 400 গিগাবাইট / সেকেন্ড এনডিআর স্পাইন-লেফ ফ্যাব্রিকটিতে স্থানান্তরিত হয়েছিল। এমকিউএম 9790-এনএস 2 এফ 400 গিগাবাইট / সেকেন্ড এনডিআর 64-পোর্ট ওএসএফপি প্ল্যাটফর্ম হিসাবে,এটি একটি একক সুইচে উচ্চ র্যাডিক্স প্রদান করে, যা নকশাটিকে ব্লকিং ব্যান্ডউইথ বজায় রেখে কাপড়ের স্তর হ্রাস করতে দেয়।

• পাতার স্তরঃ এমকিউএম 9790-এনএস 2 এফ সুইচগুলি জিপিইউ নোড এবং 400 গিগাবাইট / সেকেন্ড এনডিআর লিঙ্কগুলির মাধ্যমে স্টোরেজ লক্ষ্যগুলিকে সংযুক্ত করে
• মেরুদণ্ড স্তরঃ অতিরিক্ত এমকিউএম 9790-এনএস 2 এফ ইউনিটগুলি পাতার মধ্যে সংযোগ এবং পথের বৈচিত্র্য সরবরাহ করে
• সমষ্টিগত ত্বরণঃ NVIDIA SHARPv3 ফ্যাব্রিকের MPI এবং NCCL অপারেশনগুলিকে অফলোড করে
• যানজট নিয়ন্ত্রণঃ অভিযোজিত রুটিং এবং উন্নত QoS ইনকাস্ট এবং হট স্পটগুলির বিরুদ্ধে রক্ষা করে
• পরিচালনাঃ ফ্যাব্রিক স্বাস্থ্য পর্যবেক্ষণের জন্য স্ট্যান্ডার্ড ইনফিনিব্যান্ড সরঞ্জাম এবং টেলিমেট্রি

যেহেতু এমকিউএম 9790-এনএস 2 এফ ইনফিনিব্যান্ড সুইচ কোয়ান্টাম -২ পরিবারের অংশ, এটি বিদ্যমান ইনফিনিব্যান্ড পরিচালনা অনুশীলন এবং অ্যাডাপ্টার বাস্তুতন্ত্রের সাথে ইন্টারঅপারেশন করে।MQM9790-NS2F সামঞ্জস্যপূর্ণ হার্ডওয়্যারের মূল্যায়নকারী দলগুলিকে নিশ্চিত করতে হবে যে হোস্ট চ্যানেল অ্যাডাপ্টারগুলি, ওএসএফপি তারগুলি এবং ফার্মওয়্যার স্তরগুলি এনডিআর প্রয়োজনীয়তার সাথে সামঞ্জস্য করে।এই ধরনের একটি MQM9790-NS2F ইনফিনিব্যান্ড সুইচ সমাধান সাধারণত মিশ্র প্রজন্মের বোতল ঘাটতি এড়ানোর জন্য জিপিইউ রিফ্রেশ চক্রের পাশাপাশি পরিকল্পনা করা হয়.

ফলাফল ও উপকারিতা

প্রয়োগের পরে, সবচেয়ে দৃশ্যমান পরিবর্তনটি ছিল ঘনিষ্ঠভাবে সংযুক্ত ওয়ার্কলোডগুলির জন্য কাজের সমাপ্তির সময়।পূর্বে যানজটের কারণে স্থবির হওয়া সমষ্টিগত ক্রিয়াকলাপগুলি এখন কম এবং আরও ধারাবাহিক লেটেনসির সাথে সম্পন্ন হয়েছে. 64-পোর্ট ওএসএফপি ঘনত্ব এছাড়াও তারের সরলীকৃত এবং কোন দুটি শেষ পয়েন্টের মধ্যে সুইচিং হপ সংখ্যা হ্রাস, যা সরাসরি RDMA কর্মক্ষমতা উপকৃত।

অপারেশনাল দৃষ্টিকোণ থেকে, ফ্যাব্রিক সম্পর্কে যুক্তি করা সহজ হয়ে উঠেছে। কম স্তরের অর্থ কম ব্যর্থতা ডোমেন এবং সহজ সমস্যা সমাধান। স্টোরেজ ট্র্যাফিক, ফ্যাব্রিকের উপর NVMe সহ,কম ল্যাটেনসি ট্রান্সপোর্টকে কম্পিউট ট্র্যাফিকের সাথে ভাগ করে নেয়আইটি ম্যানেজারদের জন্য, মূল জিনিসটি হ'ল ফ্যাব্রিক স্তরে বিনিয়োগ করা কম্পিউটারের স্তরে ইতিমধ্যে অর্থ প্রদান করা ক্ষমতাকে আনলক করতে পারে।

ক্রয় এবং পরিকল্পনা দলগুলি প্রায়শই একটি নকশা চূড়ান্ত করার আগে পোর্ট সংখ্যা, শক্তি এবং শীতল এনভেলপগুলি নিশ্চিত করার জন্য MQM9790-NS2F ডেটাশিটটি পর্যালোচনা করে।MQM9790-NS2F দাম এবং বিক্রয়ের জন্য MQM9790-NS2F প্রাপ্যতা সম্পর্কে প্রশ্নগুলি অনুমোদিত পরিবেশকদের এবং এনভিআইডিআইএ এন্টারপ্রাইজ প্রতিনিধিদের কাছে সবচেয়ে ভালভাবে পরিচালিত হয়, যেহেতু মূল্য নির্ধারণ কনফিগারেশন, সমর্থন এবং অঞ্চলের উপর নির্ভর করে।

সংক্ষিপ্ত বিবরণ এবং প্রত্যাশা

এনভিআইডিআইএ মেলানোক্স এমকিউএম 9790-এনএস 2 এফ দেখায় যে কীভাবে একটি উচ্চ-রেডিক্স 400 গিগাবাইট / সেকেন্ড এনডিআর প্ল্যাটফর্ম টিস্যু জটিলতা যুক্ত না করে এআই, এইচপিসি এবং আরডিএমএ ক্লাস্টার পারফরম্যান্সকে পুনরায় রূপ দিতে পারে।যেমন ওয়ার্কলোড স্কেল এবং জিপিইউ ঘনত্ব বৃদ্ধি, কম বিলম্ব ইনফিনিব্যান্ড সুইচিং একটি মৌলিক বিনিয়োগ থাকবে। পরবর্তী ফ্যাব্রিক রিফ্রেশ পরিকল্পনা স্থপতিদের জন্য, MQM9790-NS2F একটি বাস্তব বিল্ডিং ব্লক deterministic,হাই-থ্রু-প্যাড ইন্টারকানেক্ট.