Mellanox (NVIDIA Mellanox) MQM9790-NS2F InfiniBand স্যুইচ ইন অ্যাকশন – RDMA/HPC-এর জন্য লো-লেটেন্সি ইন্টারকানেক্ট অপ্টিমাইজেশান

Mellanox (NVIDIA Mellanox) MQM9790-NS2F ইনফিনিব্যান্ড স্যুইচ ইন অ্যাকশন ¢ RDMA/HPC/AI ক্লাস্টারগুলির জন্য নিম্ন-ল্যাটেনসি ইন্টারকানেক্ট অপ্টিমাইজেশন

এআই প্রশিক্ষণ ক্লাস্টারগুলি হাজার হাজার থেকে কয়েক হাজার জিপিইউতে পরিমাপ করার সাথে সাথে নেটওয়ার্ক লেটেন্সি এবং ঘনত্ব নিয়ন্ত্রণ কার্যকর কম্পিউটারের ব্যবহারের ক্ষেত্রে নির্ধারণকারী কারণ হয়ে ওঠে।একটি বিশ্বব্যাপী নেতৃস্থানীয় এআই গবেষণা সংস্থা সম্প্রতিমেলানক্স (এনভিআইডিআইএ মেলানক্স) এমকিউএম৯৭৯০-এনএস২এফপরবর্তী প্রজন্মের সুপারকম্পিউটিং সুবিধার ভিত্তিতে, বড় আকারের ভাষা মডেল, আণবিক গতিবিদ্যা সিমুলেশন এবং বিতরণ গভীর শিক্ষা সমর্থন করে।এই প্রবন্ধে বাস্তব জগতে মোতায়েন পরীক্ষা করা হয়েছে, এই ইনফিনিব্যান্ড সুইচ কিভাবে RDMA পরিবহন, এইচপিসি যোগাযোগ, এবং এআই ডেটা-সমানুপাতিক প্রশিক্ষণ ফ্যাব্রিকগুলিকে রূপান্তর করে তা বিস্তারিতভাবে বর্ণনা করে।

পটভূমি ও চ্যালেঞ্জঃ ইথারনেট সমঝোতা থেকে লসলেস ইন্টারকানেক্ট বাধ্যতামূলক

সংস্থাটি প্রাথমিকভাবে RoCEv2 সহ 100GbE ইথারনেট ফ্যাব্রিকের উপর নির্ভর করেছিল। তবে তাদের জিপিইউ নোডগুলি 1,200 এরও বেশি সার্ভারে বেড়েছে (প্রতিটি 8 × এনভিআইডিআইএ এইচ 100 জিপিইউ সহ),তারা পিএফসির ধ্রুবক বন্ধের মুখোমুখি হয়েছে, জটিল ইসিএন টিউনিং, এবং মাঝে মাঝে প্যাকেট ড্রপ যা প্রশিক্ষণ স্টল সৃষ্টি করে।এই সমস্যাগুলি গড় কাজের সমাপ্তির সময়কে ৩৫% এরও বেশি বাড়িয়ে তোলে এবং নেটওয়ার্ক ত্রুটি সমাধানের জন্য উল্লেখযোগ্য প্রকৌশল প্রচেষ্টা গ্রহণ করেবিদ্যমান অবকাঠামো এখন আর বড় আকারের অল-রিডুস এবং অল-টু-অল সমষ্টিগত ক্রিয়াকলাপের জন্য প্রয়োজনীয় মাইক্রো-সেকেন্ড-স্তরের লেটেন্সি এবং জমে থাকা-মুক্ত সঞ্চালন সরবরাহ করতে পারে না।

সমাধান ও বাস্তবায়ন:MQM9790-NS2F ইনফিনিব্যান্ড সুইচফ্যাব্রিক ব্যাকবোন হিসাবে

একাধিক বিকল্প মূল্যায়ন করার পর, দলটিএনভিডিয়া মেলানোক্স এমকিউএম৯৭৯০-এনএস২এফএকটি নতুন দুই স্তরের পাতা মেরুদণ্ড স্থাপত্যের মূল বিল্ডিং ব্লক হিসাবে। প্রতিটি পাতা র্যাক দুটিMQM9790-NS2F 400Gb/s NDR 64-পোর্ট OSFPসুইচ, প্রতি ইউনিট প্রতি 64 OSFP পোর্ট প্রদান এবং 25,6 Tb / s একটি মোট সুইচিং ক্ষমতা। 400 Gb / s NDR গতি প্রতি পোর্ট, কাটা-মাধ্যমে সুইচিং এবং অভিযোজিত রাউটিং সঙ্গে মিলিত,তাদের জিপিইউ-সমৃদ্ধ ওয়ার্কলোডগুলির জন্য একটি সমালোচনামূলক প্রয়োজনীয়তা..........MQM9790-NS2F ইনফিনিব্যান্ড সুইচ সমাধানএনভিআইডিআইএ কোয়ান্টাম-২ ফার্মওয়্যারের সাথে একীভূত, নিরবচ্ছিন্নতা নিশ্চিত করেMQM9790-NS2F সামঞ্জস্যপূর্ণবিদ্যমান কানেক্টএক্স-৭ অ্যাডাপ্টার এবং ব্লুফিল্ড-৩ ডিপিইউ দিয়ে কাজ করা।

প্রধান স্থাপনার বিকল্পগুলির মধ্যে রয়েছেঃ

• টপোলজিঃ৬৪-পোর্ট ওএসএফপি থেকে ৪০০জি অপটিক্যাল ট্রান্সসিভার সহ নন-ব্লকিং ফ্যাট-ট্রি, যা সমস্ত জিপিইউ নোডের জন্য পূর্ণ-বিসেকশন ব্যান্ডউইথ সক্ষম করে।
• ব্যবস্থাপনা:এনভিআইডিআইএ ইউএফএম (ইউনিফাইড ফ্যাব্রিক ম্যানেজার) রিয়েল-টাইম টেলিমেট্রি, ঘনত্ব সনাক্তকরণ, এবং প্রাক্টিভ পাথ পুনরায় রুট করার জন্য।
• সমষ্টিগত অবতরণঃSHARPv3 হোস্ট সিপিইউ থেকে যোগাযোগের অপসারণ, সমস্ত-হ্রাস অপারেশন ত্বরান্বিত করতে সক্ষম করেছে।

একটি মসৃণ রূপান্তর নিশ্চিত করার জন্য, দলটিMQM9790-NS2F তথ্য পত্রএবংMQM9790-NS2F স্পেসিফিকেশনপাওয়ার এবং ক্যাবলিং প্রয়োজনীয়তা যাচাই করার জন্য। 1 ইউ ফর্ম ফ্যাক্টর এবং অতিরিক্ত পাওয়ার সরবরাহগুলি তাদের বিদ্যমান র্যাক ঘনত্বের সাথে সুশৃঙ্খলভাবে ফিট করে এবং ওএসএফপি পোর্টগুলি ডিএসি কেবল এবং অপটিক্যাল মডিউল উভয়কেই সমর্থন করে,ভবিষ্যতে সম্প্রসারণের জন্য নমনীয়তা প্রদান করে।

পরিমাপযোগ্য ফলাফল ও উপকারিতা ️ কার্যকারিতা এবং দক্ষতার পরিমাণযুক্ত লাভ

সম্পূর্ণ বাস্তবায়ন এবং অপ্টিমাইজেশনের পরে, সংস্থাটি একাধিক মাত্রায় উল্লেখযোগ্য উন্নতি নথিভুক্ত করেছেঃ

কাঁচা সংখ্যা ছাড়াও, দলটি নেটওয়ার্ক অপারেশনগুলিকে ব্যাপকভাবে সরলীকৃত করে, প্রায় শূন্য জনাকীর্ণতার সাথে সম্পর্কিত বাধাগুলি রিপোর্ট করেছে।এনভিডিয়া মেলানোক্স এমকিউএম৯৭৯০-এনএস২এফএটি সমস্ত 64 টি OSFP পোর্ট জুড়ে স্বয়ংক্রিয় লোড ভারসাম্যকে অনুমতি দেয়, ম্যানুয়াল ECN tweaking দূর করে।MQM9790-NS2F ইনফিনিব্যান্ড সুইচএমনকি 95% লিঙ্ক ব্যবহারের অধীনেও নির্ধারক পারফরম্যান্স প্রদান করে ‡ তাদের পূর্ববর্তী ইথারনেট সেটআপের সাথে অসম্ভব একটি কৃতিত্ব।

সংস্থাটি আরও উল্লেখ করেছে যেMQM9790-NS2F দাম, যখন 5 বছরের জীবনচক্রের উপর amortized হয়, তখন প্রতি পোর্টে কম শক্তি খরচ (≈1.5W প্রতি 400G পোর্ট) এবং উচ্চতর পোর্ট ঘনত্বের কারণে কম ক্যাবলিং খরচ দ্বারা ক্ষতিপূরণ দেওয়া হয়।সাধারণভাবে উপলব্ধ এখন পরিপক্ক, তারা নিশ্চিত করেছে যেবিক্রির জন্য MQM9790-NS2Fঅনুমোদিত চ্যানেলের মাধ্যমে সহজেই ক্রয়-বিক্রয় করা হয় এবংMQM9790-NS2F তথ্য পত্রসমস্ত প্রয়োজনীয় ইনস্টলেশন এবং সম্মতি বিবরণ প্রদান করা হয়েছে।

সংক্ষিপ্ত বিবরণ ও প্রত্যাশা ️ পরবর্তী প্রজন্মের এআই অবকাঠামোর জন্য একটি ব্লুপ্রিন্ট

এই চুক্তির অনুমোদনমেলানক্স (এনভিআইডিআইএ মেলানক্স) এমকিউএম৯৭৯০-এনএস২এফএই বড় আকারের এইচপিসি/এআই ক্লাস্টারে প্রমাণিত হয়েছে যে একটি উদ্দেশ্য-নির্মিত ইনফিনিব্যান্ড ফ্যাব্রিক আর বিলাসিতা নয় বরং এআই এবং বৈজ্ঞানিক কম্পিউটিংয়ের সীমানা অতিক্রমকারী সংস্থাগুলির জন্য প্রয়োজনীয়।ধ্রুবক সাব-মাইক্রোসেকেন্ড লেটেন্সি প্রদান করে, ক্ষতিহীন RDMA পরিবহন, এবং নেটওয়ার্ক কম্পিউটিং ত্বরণ,MQM9790-NS2F 400Gb/s NDR 64-পোর্ট OSFPস্যুইচ ডেটা সেন্টারগুলিকে কয়েক হাজার জিপিইউ পর্যন্ত প্রায়-রৈখিক স্কেলযোগ্যতা অর্জন করতে সক্ষম করে।

ভবিষ্যতের দিকে তাকিয়ে, দলটি অতিরিক্ত উপাদান দিয়ে ফ্যাব্রিক সম্প্রসারণের পরিকল্পনা করছে।MQM9790-NS2F ইনফিনিব্যান্ড সুইচজলবায়ু মডেলিং এবং জিনোমিক্স সহ আসন্ন এক্সাসকেল-শ্রেণীর ওয়ার্কলোডগুলিকে সমর্থন করার জন্য ইউনিটগুলি।MQM9790-NS2F সামঞ্জস্যপূর্ণভবিষ্যতের এনভিআইডিআইএ প্রজন্মের সাথে ইকোসিস্টেম বিনিয়োগ সুরক্ষা নিশ্চিত করে।MQM9790-NS2F ইনফিনিব্যান্ড সুইচ সমাধানএটি একটি পরীক্ষিত, ব্যয়-কার্যকর পথকে উচ্চ-পারফরম্যান্স, কম-ল্যাটেনসি ক্লাস্টার নেটওয়ার্কিংয়ের দিকে প্রস্তাব করে ০ পরবর্তী দশকে এআই উদ্ভাবনের জন্য একটি গুরুত্বপূর্ণ সক্ষমক।