অ্যাকশনে মেলানক্স (এনভিআইডিআইএ মেলানক্স) 920-9B110-00FH-0D0: আরডিএমএ / এইচপিসি / এআই ক্লাস্টারগুলির জন্য নিম্ন-ল্যাটেনসি ইন্টারকানেক্টগুলি অপ্টিমাইজ করা

বড় আকারের এআই মডেল প্রশিক্ষণ এবং এক্সাসকেলে এইচপিসির যুগে, নেটওয়ার্ক ল্যাটেনসি একক সবচেয়ে সমালোচনামূলক বোতল ঘা হিসাবে আবির্ভূত হয়েছে যা রৈখিক ক্লাস্টার স্কেলাবিলিটি সীমাবদ্ধ করে।,দ্যমেলানক্স (এনভিআইডিআইএ মেলানক্স) ৯২০-৯বি১১০-০০এফএইচ-০ডি০ইনফিনিব্যান্ড সুইচ কিভাবে গবেষণা প্রতিষ্ঠান এবং এন্টারপ্রাইজ এআই ল্যাবগুলি তাদের উচ্চ-কার্যকারিতা ফ্যাব্রিক ডিজাইন করছে তা রূপান্তর করছে।920-9B110-00FH-0D0RDMA-প্রচুর ওয়ার্কলোডের জন্য নির্ধারক, অতি-নিম্ন বিলম্ব প্রদান করে।

পটভূমি ও চ্যালেঞ্জঃ এআই ক্লাস্টার যোগাযোগ দেয়াল

একটি মাঝারি আকারের এআই গবেষণা সুবিধা 64 নোড জুড়ে বিতরণ প্রশিক্ষণের সময় জিপিইউ অলস সময় সঙ্গে সংগ্রাম করা হয়। তাদের বিদ্যমান 100Gb ইথারনেট ফ্যাব্রিক ইনকাস্ট ঘনত্ব থেকে ভুগছিলেন,যৌথ যোগাযোগ অপারেশন (সমস্ত হ্রাস)নেটওয়ার্ক আর্কিটেক্টদের একটি ক্ষতিহীন, উচ্চ-থ্রুপুট সমাধান প্রয়োজন ছিল যা প্রতি পোর্টে 200Gb / s পর্যন্ত স্কেল করতে সক্ষম ছিল যখন sub-microsecond latency বজায় রেখেছিল।.উপলব্ধ বিকল্পগুলি মূল্যায়ন করার পর, দলটি920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDRতাদের নতুন স্পিন-লেফ টপোলজির মূল বিল্ডিং ব্লক হিসেবে।

সমাধান ও বাস্তবায়নঃ ইনফিনিব্যান্ড ফ্যাব্রিক বাস্তবায়ন

মোতায়েনের কেন্দ্রবিন্দু ছিলএনভিআইডিআইএ মেলানোক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০দুটি স্তরের ফ্যাট-ট্রি আর্কিটেকচারে কনফিগার করা সুইচগুলি। প্রতিটি কম্পিউটিং নোড এইচডিআর কানেক্টএক্স -6 অ্যাডাপ্টার দিয়ে সজ্জিত ছিল, যা প্যাসিভ তামা তারের মাধ্যমে পাতার সুইচগুলিতে সংযুক্ত ছিল।মূল বাস্তবায়ন পদক্ষেপ অন্তর্ভুক্ত:

• কনভার্জেড ইথারনেটের (RoCE) বিকল্পের উপর RDMA:হার্ডওয়্যার-ভিত্তিক ঘনত্ব নিয়ন্ত্রণের সাথে নেটিভ ইনফিনিব্যান্ড সম্পূর্ণরূপে প্যাকেট ড্রপগুলি নির্মূল করে।
• অভিযোজিত রুটিংঃদ্য920-9B110-00FH-0D0 InfiniBand সুইচ OPN সমাধানএকাধিক পথের মধ্যে গতিশীল লোড ব্যালেন্সিং সক্ষম করে, হটস্পট গঠনের প্রতিরোধ করে।
• ফ্যাব্রিক ব্যবস্থাপনাঃসাবনেট ম্যানেজার (ওপেনএসএম) ব্যবহার করে920-9B110-00FH-0D0 স্পেসিফিকেশনএকক ফ্যাব্রিকের মধ্যে ২ হাজার নোডের জন্য সমর্থন নিশ্চিত করা।

ক্রয়ের আগে, প্রকৌশলীরা920-9B110-00FH-0D0 তথ্য পত্রবিদ্যমান অপটিক্সের সাথে সামঞ্জস্যতা যাচাই করার জন্য।920-9B110-00FH-0D0 সামঞ্জস্যপূর্ণএইচডিআর ক্যাবল সমন্বয়কারী সমস্ত প্রধান ক্যাবল সমন্বয়কে অন্তর্ভুক্ত করে, উপাদানগুলির বিলকে সহজ করে।920-9B110-00FH-0D0 দামবিকল্প এইচডিআর সুইচগুলির সাথে প্রতিযোগিতামূলক প্রমাণিত হয়েছে এবং ইউনিটগুলি সহজেই পাওয়া যায় (বিক্রির জন্য 920-9B110-00FH-0D0) এনভিআইডিআইএ চ্যানেল পার্টনারদের মাধ্যমে।

ফলাফল ও উপকারিতাঃ পরিমাপযোগ্য কর্মক্ষমতা লাভ

মোতায়েনের পর টেলিমেট্রি তিনটি মূল পরিমাপের মধ্যে নাটকীয় উন্নতি প্রকাশ করেছে:

অপরিশোধিত সংখ্যার বাইরে,920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ OPNএটি টিমকে ফ্যাব্রিককে নতুন করে ডিজাইন না করেই ৬৪ থেকে ২৫৬ নড পর্যন্ত স্কেল করতে সক্ষম করেছে।ইনফিনিব্যান্ডের ক্রেডিট-ভিত্তিক প্রবাহ নিয়ন্ত্রণ দ্বারা সরবরাহিত নির্ধারক বিলম্ব শত শত জিপিইউ জুড়ে প্রশিক্ষণ ধারাবাহিকতা বজায় রাখার জন্য অপরিহার্য প্রমাণিত হয়েছেইঞ্জিনিয়াররাও920-9B110-00FH-0D0রিয়েল টাইমে মাইক্রো-বার্স্ট সনাক্ত এবং সংশোধন করার জন্য হার্ডওয়্যার-ভিত্তিক জমে থাকা বিজ্ঞপ্তি।

সংক্ষিপ্ত বিবরণ এবং দৃষ্টিভঙ্গিঃ এআই ইন্টারকানেক্টের ভবিষ্যৎ

এই প্রবর্তনটি নিশ্চিত করে যেএনভিআইডিআইএ মেলানোক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০পরবর্তী প্রজন্মের এআই এবং এইচপিসি ক্লাস্টারগুলির জন্য একটি মৌলিক উপাদান হিসাবে কাজ করে। ক্ষতিহীন ইনফিনিব্যান্ডের সাথে ক্ষতিহীন ইথারনেট ফ্যাব্রিকগুলি প্রতিস্থাপন করে,সংস্থাগুলি যোগাযোগের স্টলে পূর্বে নষ্ট হওয়া জিপিইউর 30% পর্যন্ত পুনরুদ্ধার করতে পারে. নতুন এআই অবকাঠামো পরিকল্পনা স্থপতিদের জন্য,920-9B110-00FH-0D0 তথ্য পত্রএটি ছোট ডিজিএক্স ক্লাস্টার থেকে শুরু করে সুপারকম্পিউটিং স্কেল স্থাপনের জন্য বিস্তারিত নির্দেশিকা প্রদান করে।

যেমন ওয়ার্কলোডগুলি বৃহত্তর মডেল সমান্তরালতা এবং উচ্চতর জিপিইউ ঘনত্বের দিকে বিকশিত হয়,920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDRএটি ভবিষ্যতে 400Gb / s ফ্যাব্রিকগুলির জন্য একটি স্পষ্ট আপগ্রেড পথ প্রদান করে।920-9B110-00FH-0D0 দামঅপারেশনাল দক্ষতা লাভ বা যাচাই920-9B110-00FH-0D0 সামঞ্জস্যপূর্ণক্যাবলিং অপশন, এই ইনফিনিব্যান্ড সুইচ ডেটা চালিত সংস্থাগুলির জন্য পরিমাপযোগ্য ROI প্রদান করে।