Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 InfiniBand স্যুইচ ইন অ্যাকশন: লো-লেটেন্সি ইন্টারকানেক্ট অপ্টিমাইজ করা

বাস্তব জগতে এআই প্রশিক্ষণ এবং উচ্চ-পারফরম্যান্স কম্পিউটিং স্থাপনার ক্ষেত্রে, নেটওয়ার্ক লেটেন্সি এবং সিপিইউ ওভারহেড প্রায়শই স্কেলযোগ্যতার নীরব হত্যাকারী হয়ে ওঠে।এই অ্যাপ্লিকেশন সংক্ষিপ্ত কিভাবে একটি মাঝারি আকারের গবেষণা প্রতিষ্ঠান এই সঠিক চ্যালেঞ্জ মোকাবেলামেলানক্স (এনভিআইডিআইএ মেলানক্স) ৯২০-৯বি১১০-০০এফএইচ-০ডি০তাদের জিপিইউ-ভিত্তিক গবেষণা ক্লাস্টারের মূল ফ্যাব্রিক হিসাবে ইনফিনিব্যান্ড সুইচ।

সংস্থার উত্তরাধিকার 100Gb / s ইথারনেট RoCE ফ্যাব্রিক PFC (পরিপূরক প্রবাহ নিয়ন্ত্রণ) ঝড় এবং অকার্যকর ঘনত্ব পরিচালনার কারণে অনির্দেশ্য লেটেনসি থেকে ভুগছিল।তাদের এআই মডেলের আকার ১০ বিলিয়ন থেকে বেড়ে ৫০ বিলিয়ন প্যারামিটারে পৌঁছেছে, সমষ্টিগত যোগাযোগ অপারেশন (সমস্ত-হ্রাস, সব-সব) মোট পুনরাবৃত্তি সময় প্রায় 45% গ্রাস।নিম্ন-ল্যাটেনসি ফ্যাব্রিক যা রৈখিক পারফরম্যান্স স্কেলিং বজায় রেখে সম্পূর্ণরূপে RDMA ব্যবহার করতে পারে. অনুসন্ধান দ্রুত920-9B110-00FH-0D0সবচেয়ে আশাব্যঞ্জক বিল্ডিং ব্লক হিসেবে।

দলটি নির্বাচিত920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDRচারটি র্যাক জুড়ে 64 জিপিইউ নোড আন্তঃসংযোগ, মেরুদণ্ড স্তর ব্যাকবোন হিসাবে সুইচ।920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ OPNঅর্ডার ফ্রেমওয়ার্ক, তারা 40 HDR পোর্ট প্রতিটি সঙ্গে দুটি অপ্রয়োজনীয় স্পিন সুইচ স্থাপন, একটি অ-ব্লকিং 1: 1 ওভার সাবস্ক্রিপশন অনুপাত অর্জন।বাস্তবায়নটি অ্যাডাপ্টিভ রাউটিং এবং SHARPv2 (স্কেলেবল হিয়ারারজিকাল এগ্রিগেশন এবং রিডাকশন প্রোটোকল) ¢ বৈশিষ্ট্যগুলি সম্পূর্ণরূপে নথিভুক্ত করেছে920-9B110-00FH-0D0 তথ্য পত্র০ ০ ০ ০ ০ ০ ০ ০ ০ ০ ০ ০920-9B110-00FH-0D0 সামঞ্জস্যপূর্ণতাদের বিদ্যমান কানেক্টএক্স-৬ এইচডিআর অ্যাডাপ্টার এবং স্ট্যান্ডার্ড কিউএসএফপি৫৬ অপটিক্স অন্তর্ভুক্ত ছিল।

পোস্ট-ডিপ্লয়মেন্ট টেলিমেট্রি নাটকীয় উন্নতি প্রকাশ করেছে। যে কোনও দুটি জিপিইউ নোডের মধ্যে শেষ থেকে শেষ লেটেন্সি 3.2μs (RoCE) থেকে 1.1μs এর নিচে নেমে এসেছে, 80% দ্বারা jitter হ্রাস পেয়েছে।এনভিআইডিআইএ মেলানোক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০৫১২-জিপিইউ কাজের জন্য অল-রেডুস সমাপ্তির সময় ৫৭% হ্রাস করা হয়েছে। নিম্নলিখিত টেবিলটি মূল মেট্রিকগুলি সংক্ষিপ্ত করেঃ

অপরিশোধিত সংখ্যার বাইরে,920-9B110-00FH-0D0 InfiniBand সুইচ OPN সমাধানNVIDIA UFM (Unified Fabric Manager) ব্যবহার করে, দলটি রিয়েল-টাইম ফ্যাব্রিক দৃশ্যমানতা, স্বয়ংক্রিয় পথ অপ্টিমাইজেশান,এবং সক্রিয় ঘন ঘন সতর্কতা তাদের পূর্ববর্তী ইথারনেট স্থাপনার মধ্যে অনুপলব্ধ ক্ষমতা.920-9B110-00FH-0D0 স্পেসিফিকেশনএছাড়াও শক্তি-দক্ষ অপারেশন সক্ষমঃ 1 ইউ চ্যাসি পূর্ণ লোড এ শুধুমাত্র 180W গ্রাস, তাদের PUE অবদান কমাতে।

অনুরূপ আপগ্রেডগুলি মূল্যায়নকারী সংস্থাগুলির জন্য,920-9B110-00FH-0D0 দামকম NIC ওভারহেড এবং ব্যয়বহুল ক্ষতিহীন-ইথারনেট লাইসেন্সিংয়ের নির্মূলের জন্য সমতুল্য 200Gb / s ইথারনেট সুইচগুলির তুলনায় অনুকূলভাবে তুলনা করে। একাধিক বিতরণকারী এখন তালিকাভুক্তবিক্রির জন্য 920-9B110-00FH-0D0টিমের ROI বিশ্লেষণ দেখায় যে GPU ব্যবহারের উন্নতি থেকে 9 মাসের রিটার্ন পিরিয়ড।

এই কর্মসূচির মাধ্যমে নিশ্চিত করা হয়েছে যে,এনভিআইডিআইএ মেলানোক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০পরবর্তী প্রজন্মের এআই ক্লাস্টার বা এইচপিসি সিস্টেম ডিজাইনের জন্য,এই সুইচ একটি প্রমাণিত, উৎপাদন-প্রস্তুত বিল্ডিং ব্লক।920-9B110-00FH-0D0উচ্চ পারফরম্যান্স ইন্টারকানেকশন ডিজাইনের ক্ষেত্রে অগ্রণী ভূমিকা পালন করবে।