মেলানক্স (এনভিআইডিআইএ মেলানক্স) 920-9B210-00FN-0D0 ইনফিনিব্যান্ড স্যুইচ উত্পাদনে

পূর্ব এশিয়ার একটি নেতৃস্থানীয় এআই গবেষণা ইনস্টিটিউট একটি সাধারণ কিন্তু সমালোচনামূলক বোতল ঘাটের মুখোমুখি হয়েছিল। তাদের ৫১২-জিপিইউ ক্লাস্টার, বড় ভাষার মডেল প্রশিক্ষণ এবং আণবিক গতিবিদ্যা সিমুলেশন জন্য ব্যবহৃত,কর্মসংস্থান বৃদ্ধি পাওয়ায় কর্মক্ষমতা গুরুতর অবনতির শিকার হয়েছিল. মূল কারণটি ছিল লিগ্যাসি 100Gb / s ইথারনেট ফ্যাব্রিক, যেখানে টিসিপি / আইপি ওভারহেড এবং ইনকাস্ট ইভেন্টের সময় প্যাকেট ক্ষতির কারণে জিপিইউ আইলড টাইম 35% পর্যন্ত ছিল।আল্ট্রা-নিম্ন-ল্যাটেনসি ফ্যাব্রিক যা ডিআরডিএমএ সমর্থন করতে পারে এবং নির্ণায়ক পারফরম্যান্সে আপস না করে হাজার হাজার নোডে স্কেল করতে পারেবিভিন্ন সমাধান মূল্যায়ন করার পর তারামেলানক্স (এনভিআইডিআইএ মেলানক্স) ৯২০-৯বি২১০-০০এফএন-০ডি০ইনফিনিব্যান্ড সুইচ তাদের নতুন স্পিন-লেফ আর্কিটেকচারের মূল।

এই কর্মসূচির কেন্দ্রবিন্দু ছিল920-9B210-00FN-0D0কানেক্টএক্স-৭ অ্যাডাপ্টারের মাধ্যমে ৫১২টি এনভিআইডিআইএ এ১০০ জিপিইউ সংযোগকারী ৩২টি পাতার সুইচ সহ।920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRএই সুইচটি প্রতি পোর্টে 400Gb/s প্রদান করে, যা পূর্ববর্তী HDR সমাধানগুলির ব্যান্ডউইথ দ্বিগুণ করে দেয় এবং সাব-মাইক্রোসেকেন্ড সুইচিং বিলম্ব বজায় রাখে।920-9B210-00FN-0D0 ইনফিনিব্যান্ড সুইচ OPNনেটওয়ার্ক ইঞ্জিনিয়াররা বিস্তারিত920-9B210-00FN-0D0 তথ্য পত্রএবং920-9B210-00FN-0D0 স্পেসিফিকেশনশক্তি এবং তাপীয় প্রয়োজনীয়তা যাচাই করার জন্য, বিদ্যমান 19 "র্যাকগুলিতে একটি বিরামবিহীন সংহতকরণ সক্ষম করে।920-9B210-00FN-0D0 সামঞ্জস্যপূর্ণবিদ্যমান এইচডিআর অবকাঠামো এবং নতুন এনডিআর এন্ডপয়েন্টের সাথে, পর্যায়ক্রমে মাইগ্রেশন করার অনুমতি দেয়।

• আরডিএমএ দক্ষতা বৃদ্ধিঃসঙ্গেএনভিআইডিআইএ মেলানোক্স ৯২০-৯বি২১০-০০এফএন-০ডি০হার্ডওয়্যার-ভিত্তিক ঘনত্ব নিয়ন্ত্রণ সক্ষম করে, আরডিএমএ লেখার বিলম্ব 12μs থেকে 1.2μs এ হ্রাস পেয়েছে। জিপিইউ সরাসরি আরডিএমএ (জিডিআর) সম্পূর্ণ কার্যকর হয়ে উঠেছে, সিপিইউ মেমরি বোতল ঘাটতি দূর করে।
• এইচপিসি অ্যাপ্লিকেশন স্পিডআপঃএকটি কী আবহাওয়া মডেলিং কোড (এমপিআই-ভিত্তিক) সুইচটির অভিযোজিত রাউটিং এবং SHARP v2 সমষ্টিগত অফলোডের কারণে 2.7x পারফরম্যান্সের উন্নতি দেখেছিল।
• এআই প্রশিক্ষণের আউটপুটঃ১৭৫ বিলিয়ন প্যারামিটার এলএলএম প্রশিক্ষণ কাজের জন্য, নতুন ফ্যাব্রিক সমস্ত হ্রাসের সময়কে ৬৮% হ্রাস করেছে, সামগ্রিক জিপিইউ ব্যবহারকে ৬২% থেকে ৯১% এ উন্নতি করেছে।
• অপারেশনাল সরলতাঃদ্য920-9B210-00FN-0D0 InfiniBand সুইচ OPN সমাধানএনভিআইডিআইএর ইউএফএম প্ল্যাটফর্মের সাথে সংহত, রিয়েল-টাইম টেলিমেট্রি এবং ভবিষ্যদ্বাণীমূলক ব্যর্থতার সতর্কতা প্রদান করে। আইটি পরিচালকরা নেটওয়ার্ক সম্পর্কিত সমস্যা সমাধানের সময় 50% হ্রাসের কথা জানিয়েছেন।

প্রকল্পের মূল্যায়নের সময় গবেষণা প্রতিষ্ঠানটি920-9B210-00FN-0D0 দামপ্রতিযোগিতামূলক ইথারনেট সমাধানগুলির বিরুদ্ধে। উচ্চতর প্রাথমিক ব্যয় সত্ত্বেও, জিপিইউর উচ্চতর ব্যবহার এবং প্রতি গিগাবাইট / সেকেন্ডে কম শক্তির কারণে মালিকানাধীন মোট ব্যয় (টিসিও) ইনফিনিব্যান্ডকে পছন্দ করেছিল।ইউনিটগুলি সহজেই পাওয়া যায় যেমনবিক্রির জন্য 920-9B210-00FN-0D0এনভিআইডিআইএর বিতরণ চ্যানেলগুলির মাধ্যমে, অন্যান্য এনডিআর সুইচগুলির তুলনায় সীসা সময় উল্লেখযোগ্যভাবে কম।920-9B210-00FN-0D0 স্পেসিফিকেশনএছাড়াও রিডন্ডেন্ট পাওয়ার সাপ্লাই এবং হট-স্পেচযোগ্য ফ্যানের জন্য সমর্থন নিশ্চিত করেছে, যা ২৪/৭ এআই গবেষণা কার্যক্রমের জন্য ইনস্টিটিউটের নির্ভরযোগ্যতার প্রয়োজনীয়তা পূরণ করে।

এআই রিসার্চ ইনস্টিটিউট এখন মানসম্মত920-9B210-00FN-0D0এই বাস্তব বিশ্বের কেসটি দেখায় যে ভবিষ্যতে ২,০৪৮-জিপিইউ এনডিআর২০০ ফ্যাব্রিক সহ সমস্ত ক্লাস্টার সম্প্রসারণের জন্য।এনভিআইডিআইএ মেলানোক্স ৯২০-৯বি২১০-০০এফএন-০ডি০এটি কেবল একটি সুইচ নয় এটি এআই এবং এইচপিসি পরিবেশে রৈখিক পারফরম্যান্স স্কেলিং অর্জনের জন্য একটি মৌলিক উপাদান।দ্য920-9B210-00FN-0D0 InfiniBand সুইচ OPN সমাধানএটি একটি পরীক্ষিত, উৎপাদন-প্রস্তুত পথের প্রস্তাব দেয়।