NVIDIA Mellanox MQM8790-HS2F ইনফিনিব্যান্ড স্যুইচ উত্পাদনে।

যেহেতু বৃহৎ ভাষা মডেল প্রশিক্ষণ এবং এক্সাস্কেল এইচপিসি সিমুলেশনগুলি হাজার হাজার নোডের দিকে GPU ক্লাস্টারগুলিকে চালিত করে, ঐতিহ্যবাহী ইথারনেট কাপড়গুলি লেজ লেটেন্সি এবং ইনকাস্ট কনজেশনের সাথে লড়াই করে। একটি জাতীয় এআই কম্পিউটিং কেন্দ্র সম্প্রতি মোতায়েন করে এই চ্যালেঞ্জ মোকাবেলা করেছেNVIDIA Mellanox MQM8790-HS2FInfiniBand তাদের 800-নোড GPU সম্প্রসারণের মেরুদণ্ড হিসাবে সুইচ করে। ক্লাস্টার ইন্টারকানেক্ট পারফরম্যান্স অপ্টিমাইজ করতে RDMA এবং ইন-নেটওয়ার্ক কম্পিউটিং ব্যবহার করে এই নিবন্ধটি তাদের বাস্তব-বিশ্বের যাত্রার মধ্য দিয়ে চলে — বাধা থেকে পরিমাপযোগ্য লাভ পর্যন্ত।

পটভূমি এবং চ্যালেঞ্জ: যখন নেটওয়ার্ক এআই বাধা হয়ে দাঁড়ায়

কেন্দ্রের লিগ্যাসি 400-নোড ক্লাস্টারটি 100Gb/s RoCEv2 ইথারনেটে চলে। যেহেতু কাজের চাপ CNN মডেল থেকে ট্রিলিয়ন-প্যারামিটার LLM-তে স্থানান্তরিত হয়েছে, ক্রস-নোড যোগাযোগের লেটেন্সি আকাশচুম্বী হয়েছে। অল-রিডুস অপারেশনের সময়, নেটওয়ার্কের অপেক্ষার সময় মোট পুনরাবৃত্তি সময়ের 40% এর বেশি খরচ করে। স্থপতিদের একটি প্ল্যাটফর্ম প্রয়োজন যেটি সাব-মাইক্রোসেকেন্ড লেটেন্সি, ক্ষতিহীন প্রবাহ নিয়ন্ত্রণ, এবং নেটিভ RDMA সমর্থন প্রদান করে — সবই বিদ্যমান QSFP56 অপটিক্স পুনরায় ব্যবহার করার সময়। একাধিক বিকল্প মূল্যায়ন করার পরে,MQM8790-HS2F InfiniBand সুইচএর 200Gb/s HDR ব্যান্ডউইথ এবং 40‑পোর্ট উচ্চ-ঘনত্ব ডিজাইনের সাথে আলাদা।

সমাধান এবং স্থাপনা: MQM8790-HS2F-এ নির্মিত HDR ফ্যাট-ট্রি

নতুন আন্তঃসংযোগ একটি দ্বি-স্তর ফ্যাট-ট্রি টপোলজি গ্রহণ করে, এর 24টি ইউনিট স্থাপন করেNVIDIA Mellanox MQM8790-HS2Fকোর এবং পাতার স্তর জুড়ে। প্রতিটি সুইচ 40টি QSFP56 পোর্ট সরবরাহ করে যা প্রতি দিকনির্দেশে 200Gb/s এ চলমান, 16Tb/s এর একটি অ-ব্লকিং সুইচিং ক্ষমতা প্রদান করে। প্রকৌশলীরা অনুসরণ করেনMQM8790-HS2F ডেটাশিটএবংMQM8790-HS2F স্পেসিফিকেশনঅভিযোজিত রাউটিং এবং উন্নত যানজট নিয়ন্ত্রণ সক্ষম করতে। প্রতিটি GPU নোড HDR ConnectX-6 অ্যাডাপ্টারের মাধ্যমে সংযোগ করে, শূন্য-কপি ডেটা স্থানান্তরের জন্য নেটিভ ইনফিনিব্যান্ড RDMA-এর সাহায্য করে — যোগাযোগে 95% এর বেশি CPU জড়িত থাকার অফলোডিং।

কেন্দ্রও বেশ কিছু সংরক্ষণ করেছেMQM8790-HS2F 200Gb/s HDR 40-পোর্ট QSFP56ইন-সিটু কম্পিউটিং জোনের জন্য ইউনিট। SHARP (Scalable Hierarchical Aggregation and Reduction Protocol), All‑Reduce-এর মতো যৌথ ক্রিয়াকলাপগুলি সার্ভার থেকে সরাসরি সুইচ নেটওয়ার্কে অফলোড করা হয়৷ 128-GPU প্রশিক্ষণে, এআই ফ্রেমওয়ার্কে কোনো কোড পরিবর্তন ছাড়াই যোগাযোগের সময় 32% কমিয়ে দেয়।

ফলাফল এবং লাভ: কম বিলম্ব, উচ্চতর থ্রুপুট, নিয়ন্ত্রিত TCO

পোস্ট-ডিপ্লয়মেন্ট মেট্রিক্স নাটকীয় উন্নতি দেখিয়েছে:

• পয়েন্ট-টু-পয়েন্ট লেটেন্সি:MPI pingpong পরীক্ষাগুলি 200Gb/s HDR লিঙ্কগুলিতে ~0.9μs পরিমাপ করেছে — উত্তরাধিকারসূত্রে RoCE সেটআপের তুলনায় 65% কম৷
• সম্মিলিত যোগাযোগ দক্ষতা:512‑GPU স্কেলে, অল-রিডুস মাত্র 18.3ms-এ সম্পন্ন হয়েছে, আগের বেসলাইনের তুলনায় 52% হ্রাস৷
• নেটওয়ার্ক ব্যবহার:অভিযোজিত রাউটিং লিংক লোডের ভারসাম্য 92% এর উপরে রাখে, প্রায় কোন কনজেশন হটস্পট ছাড়াই।
• সংগ্রহ এবং অপারেশন:দMQM8790-HS2F মূল্যপ্রতি পোর্ট প্রতিযোগী 200G সমাধানের তুলনায় প্রায় 12% কম ছিল। তাছাড়া,MQM8790-HS2F সামঞ্জস্যপূর্ণঅপটিক্স হল প্রমিত QSFP56 মডিউল, যা বিদ্যমান তারের সম্পূর্ণ পুনঃব্যবহারের অনুমতি দেয়।

"এ সরানোর পরMQM8790-HS2F InfiniBand সুইচ সমাধান, আমরা অবশেষে ট্রিলিয়ন-প্যারামিটার মডেল প্রশিক্ষণের কাছাকাছি-রৈখিক স্কেলিং (0.9 দক্ষতা) অর্জন করেছি," কেন্দ্রের প্রধান স্থপতি বলেছেন। "নেটওয়ার্ক আর বাধা নয় - আমরা যোগাযোগের সময়সূচীর পরিবর্তে মডেল আর্কিটেকচার উদ্ভাবনের উপর ফোকাস করতে পারি।"

উপসংহার এবং আউটলুক: Exascale ইন্টারকানেক্টের জন্য কোর বিল্ডিং ব্লক

এই বাস্তব-বিশ্বের ঘটনাটি প্রমাণ করে যেMQM8790-HS2Fউচ্চ পোর্ট ঘনত্ব থেকে অনেক বেশি. 200Gb/s HDR, নেটিভ RDMA, SHARP ইন-নেটওয়ার্ক কম্পিউট, এবং অভিযোজিত রাউটিং সহ, এটি আজকের AI/HPC ক্লাস্টারগুলিতে কম-লেটেন্সি ইন্টারকানেক্ট পেইন পয়েন্টগুলিকে সরাসরি সম্বোধন করে৷ আপনি একটি বিশ্ববিদ্যালয়ের সুপারকম্পিউটিং কেন্দ্রের পরিকল্পনা করছেন বা একটি এন্টারপ্রাইজ AI ক্লাউড আপগ্রেড করছেন,NVIDIA Mellanox MQM8790-HS2Fকর্মক্ষমতা, সামঞ্জস্যতা, এবং খরচ অনুমানযোগ্যতা সমন্বয় করে একটি সুষম পথ অফার করে। সুইচটি এখন ভলিউম উৎপাদনে রয়েছে। বিস্তারিত ডিজাইনের রেফারেন্সের জন্য, কর্মকর্তাকে অনুরোধ করুনMQM8790-HS2F ডেটাশিটNVIDIA এর অংশীদার পোর্টাল থেকে। রিয়েল-টাইম ইনভেন্টরি বাMQM8790-HS2F বিক্রয়ের জন্যঅনুসন্ধান, মূল্য এবং প্রযুক্তিগত সহায়তার জন্য অনুমোদিত সমাধান প্রদানকারীদের সাথে যোগাযোগ করুন।