NVIDIA Mellanox 920-9B110-00FH-0D0 প্রযুক্তিগত রেফারেন্সঃ RDMA/HPC/AI এর জন্য অপ্টিমাইজড লো-লেটেন্সি ইন্টারকানেক্ট

এনভিডিয়া মেলানক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০ প্রযুক্তিগত রেফারেন্স: ২০0Gb/s HDR-এ RDMA/HPC/AI ক্লাস্টারের জন্য অপ্টিমাইজড লো-ল্যাটেন্সি ইন্টারকানেক্ট

১. প্রকল্পের পটভূমি ও প্রয়োজনীয়তা বিশ্লেষণ

যেমন HPC এবং AI ক্লাস্টারগুলি স্কেল করা অব্যাহত রেখেছে, বিতরণ করা প্রশিক্ষণ এবং বৈজ্ঞানিক সিমুলেশন ওয়ার্কলোডগুলি ক্রমবর্ধমানভাবে নেটওয়ার্ক ব্যান্ডউইথ, ল্যাটেন্সি এবং স্কেলেবিলিটির জন্য কঠোর চাহিদা তৈরি করছে। তবে, প্রতিটি ক্লাস্টারের জন্য ৪০০Gb/s NDR পরিকাঠামোর প্রয়োজন নেই—উৎপাদন পরিবেশের একটি উল্লেখযোগ্য সংখ্যক ইতিমধ্যে ২০০Gb/s HDR-এ স্ট্যান্ডার্ডাইজড এবং একটি নিয়ন্ত্রিত বাজেটের মধ্যে কর্মক্ষমতা উন্নতির সন্ধান করছে। সাধারণ প্রয়োজনীয়তাগুলির মধ্যে রয়েছে:

• নির্ধারিত কম ল্যাটেন্সি: MPI সমষ্টিগত যোগাযোগকে প্রশিক্ষণের অভিসারকে প্রভাবিত করা থেকে লেট ল্যাটেন্সি প্রতিরোধ করে, সাব-মাইক্রোসেকেন্ড পোর্ট-টু-পোর্ট বিলম্ব বজায় রাখতে হবে।
• লসলেস ফ্যাব্রিক: RDMA দক্ষতা নিশ্চিত করতে এবং কর্মক্ষমতা পতন এড়াতে কনজেশন-এর অধীনে শূন্য প্যাকেট ড্রপ।
• ইন-নেটওয়ার্ক কম্পিউট অফলোড: হোস্ট সিপিইউ/জিপিইউ রিসোর্স মুক্ত করার জন্য নেটওয়ার্ক ফ্যাব্রিক-এ অল-রিডিউস-এর মতো সমষ্টিগত অপারেশনগুলি অফলোড করা।
• মসৃণ স্কেলেবিলিটি: বিদ্যমান HDR কেবল এবং অপটিক্যাল ট্রান্সসিভারগুলির সাথে সামঞ্জস্যতা সহ, শত শত থেকে হাজার হাজার নোড পর্যন্ত নন-ব্লকিং সম্প্রসারণের জন্য সমর্থন।

এই প্রয়োজনীয়তাগুলি পূরণ করার জন্য, এই সমাধানটি আজই প্রোডাকশন-রেডি, যা HPC এবং AI উদ্ভাবনের পরবর্তী প্রজন্মের জন্য একটি ভারসাম্যপূর্ণ, উচ্চ-কর্মক্ষমতা সম্পন্ন ইন্টারকানেক্ট ভিত্তি সরবরাহ করে। কে মূল বিল্ডিং ব্লক হিসাবে গ্রহণ করে—একটি ২০০Gb/s HDR ইনফিনিব্যান্ড সুইচ যা মাঝারি থেকে বড় আকারের স্থাপনার জন্য কর্মক্ষমতা, ঘনত্ব এবং ব্যয়-কার্যকারিতা ভারসাম্য বজায় রাখে।

২. সামগ্রিক নেটওয়ার্ক আর্কিটেকচার ডিজাইন

প্রস্তাবিত সমাধানটি একটি দুই-স্তরীয় লিফ-স্পাইন টপোলজি ব্যবহার করে, যা একটি স্কেলযোগ্য, নন-ব্লকিং ফ্যাব্রিক সরবরাহ করে যা অনুমানযোগ্য ল্যাটেন্সি এবং সরলীকৃত ক্যাবলিং সহ। লিফ স্তরে, প্রতিটি কম্পিউট র্যাক একটি ম্যানেজমেন্ট নোড ব্যর্থতার ক্ষেত্রে ফ্যাব্রিক পুনর্গঠন ম্যানুয়াল হস্তক্ষেপ ছাড়াই ঘটে তা নিশ্চিত করে রিডান্ডেন্ট সাবনেট ম্যানেজার কনফিগারেশনও সমর্থন করে। (অর্ডার পার্ট নম্বর) দিয়ে সজ্জিত, যা OSFP-to-OSFP ডাইরেক্ট-অ্যাটাচ কপার (DAC) বা অ্যাক্টিভ অপটিক্যাল কেবল (AOC) এর মাধ্যমে GPU সার্ভারগুলিতে ২০০Gb/s HDR সংযোগের ৪০টি পোর্ট সরবরাহ করে। স্পাইন স্তরে, MQM8790-HS2F সুইচগুলির একটি দ্বিতীয় স্তর—৯২০-৯বি১зіно-০০এফএইচ-০ডি০ MQM8790-HS2F ২০০Gb/s HDR এর অন্তর্নিহিত সিলিকন প্ল্যাটফর্ম—সমস্ত লিফ সুইচগুলিকে ইন্টারকানেক্ট করে, একটি ফুল-বিসেকশন-ব্যান্ডউইথ ফ্যাট-ট্রি ফ্যাব্রিক তৈরি করে।

১,৫০০ নোডের বেশি বড় ক্লাস্টারগুলির জন্য, একটি তিন-স্তরীয় ফোল্ডেড-ক্লোস আর্কিটেকচার বাস্তবায়ন করা যেতে পারে, যেখানে ৯২০-৯বি১১০-০০এফএইচ-০ডি০ লিফ এবং স্পাইন উভয় হিসাবে কাজ করে সমস্ত স্তরে সামঞ্জস্যপূর্ণ কর্মক্ষমতা বজায় রাখে। নিম্নলিখিত সারণীটি এই সুইচের চারপাশে নির্মিত একটি ২-স্তরীয় HDR ফ্যাব্রিকের জন্য মূল স্কেলিং প্যারামিটারগুলি সংক্ষিপ্ত করে:

৩. এনভিডিয়া মেলানক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০ এর ভূমিকা ও মূল বৈশিষ্ট্য

এই আর্কিটেকচারের মধ্যে, আজই প্রোডাকশন-রেডি, যা HPC এবং AI উদ্ভাবনের পরবর্তী প্রজন্মের জন্য একটি ভারসাম্যপূর্ণ, উচ্চ-কর্মক্ষমতা সম্পন্ন ইন্টারকানেক্ট ভিত্তি সরবরাহ করে। মৌলিক সুইচিং উপাদান হিসাবে কাজ করে, বেশ কয়েকটি গুরুত্বপূর্ণ ক্ষমতা সরবরাহ করে:

• ৪০টি পোর্ট ২০০Gb/s HDR: প্রতিটি OSFP পোর্ট নির্ভরযোগ্য বর্ধিত-পৌঁছানো সংযোগের জন্য ফরওয়ার্ড এরর কারেকশন (FEC) সহ দ্বিমুখী ২০০Gb/s সমর্থন করে।
• ইন্টিগ্রেটেড SHARPv2 (স্কেলেবল হায়ারারকিক্যাল এগ্রিগেশন অ্যান্ড রিডাকশন প্রোটোকল): সমষ্টিগত যোগাযোগ অপারেশনগুলি অফলোড করে, সাধারণ HPC ওয়ার্কলোডগুলিতে ৩০% পর্যন্ত MPI অল-রিডিউস ল্যাটেন্সি হ্রাস করে।
• অ্যাডাপ্টিভ রাউটিং এবং কনজেশন কন্ট্রোল: হটস্পট এড়াতে গতিশীলভাবে ট্র্যাফিক পুনরায় রুট করে, প্রতিকূল ট্র্যাফিক প্যাটার্নের অধীনে অনুমানযোগ্য কর্মক্ষমতা নিশ্চিত করে।
• উন্নত টেলিমেট্রি: প্রতি-ফ্লো এবং প্রতি-পোর্ট কাউন্টার, বাফার অকুপেন্সি মনিটরিং সহ, ফ্যাব্রিক স্বাস্থ্যের গভীর দৃশ্যমানতা প্রদান করে।

৯২০-৯বি১১০-০০এফএইচ-০ডি০ ডেটাশিট পর্যালোচনা করার এবং আপনার নির্দিষ্ট ওয়ার্কলোড এবং স্কেল প্রয়োজনীয়তাগুলির জন্য ডিজাইনটি যাচাই করতে একজন প্রত্যয়িত সমাধান স্থপতিের সাথে জড়িত হওয়ার সুপারিশ করি। ৯২০-৯বি১১০-০০এফএইচ-০ডি০ স্পেসিফিকেশন মিশন-ক্রিটিক্যাল ওয়ার্কলোডগুলির জন্য ৯৯.৯৯৯% উপলব্ধতা নিশ্চিত করে ডুয়াল-রিডান্ড্যান্ট পাওয়ার সাপ্লাই এবং হট-সোয়াপযোগ্য ফ্যান মডিউলগুলিও হাইলাইট করে।৪. স্থাপনা ও স্কেলেবিলিটি সুপারিশ

যারা

৯২০-৯বি১১০-০০এফএইচ-০ডি০ ইনফিনিব্যান্ড সুইচ OPN সমাধান গ্রহণ করার পরিকল্পনা করছেন তাদের জন্য, নিম্নলিখিত স্থাপনা নির্দেশিকাগুলি সুপারিশ করা হয়:ক্যাবলিং কৌশল:

• ইন্ট্রা-র্যাক সংযোগের জন্য (৩ মিটার পর্যন্ত) OSFP-to-OSFP DAC কেবল এবং ইন্টার-র্যাক এবং স্পাইন-লিফ লিঙ্কের জন্য (১০০ মিটার পর্যন্ত) AOC বা অপটিক্যাল ট্রান্সসিভার ব্যবহার করুন। যাচাই করুন যে সমস্ত কেবল ৯২০-৯বি১১০-০০এফএইচ-০ডি০ সামঞ্জস্যপূর্ণ এনভিডিয়া সামঞ্জস্যতা ম্যাট্রিক্স অনুসারে।রিডান্ডেন্সি:
• পৃথক PDUs-এর সাথে সংযুক্ত ডুয়াল পাওয়ার সাপ্লাই স্থাপন করুন। ব্যর্থতার একক পয়েন্টগুলি দূর করতে প্রতি লিফ-এ কমপক্ষে দুটি স্পাইন সুইচ ব্যবহার করুন।ফার্মওয়্যার ব্যবস্থাপনা:
• নিশ্চিত করুন যে সমস্ত সুইচ অভিন্ন এনভিডিয়া ফার্মওয়্যার সংস্করণ চালাচ্ছে। ডাউনটাইম ছাড়াই রোলিং আপডেটের জন্য UFM-এর স্বয়ংক্রিয় ফার্মওয়্যার আপগ্রেড বৈশিষ্ট্য ব্যবহার করুন।স্কেলেবিলিটি পথ:
• ১৬০০ নোডের বেশি ক্লাস্টারগুলির জন্য, একটি তিন-স্তরীয় ফোল্ডেড-ক্লোস টপোলজিতে স্থানান্তর করুন বা অ্যাডাপ্টিভ রাউটিং সহ ড্রাগনফ্লাই+ ব্যবহার করুন। ৯২০-৯বি১১০-০০এফএইচ-০ডি০ একটি একক সাবনেট ম্যানেজারের অধীনে একটি একক ফ্যাব্রিক-এ ৬৪টি সুইচ পর্যন্ত সমর্থন করে।মোট মালিকানা ব্যয় গণনা করার সময়, কম-র‍্যাডিক্স বিকল্পগুলির তুলনায় সুইচ স্তরগুলির হ্রাস সংখ্যা এবং সরলীকৃত ক্যাবলিং বিবেচনা করুন। যদিও

৯২০-৯বি১১০-০০এফএইচ-০ডি০ মূল্য প্রতি ইউনিট EDR (১০০Gb/s) সুইচের চেয়ে বেশি, প্রতি-পোর্ট খরচ NDR-এর চেয়ে উল্লেখযোগ্যভাবে কম, যা এটিকে HDR স্থাপনার জন্য একটি সর্বোত্তম পছন্দ করে তোলে।৫. অপারেশন, মনিটরিং ও ট্রাবলশুটিং

একটি HDR ফ্যাব্রিকের কার্যকর ব্যবস্থাপনার জন্য একটি ব্যাপক মনিটরিং এবং ট্রাবলশুটিং ফ্রেমওয়ার্ক প্রয়োজন। এনভিডিয়ার ইউনিফাইড ফ্যাব্রিক ম্যানেজার (UFM) পুরো

এনভিডিয়া মেলানক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০ আজই প্রোডাকশন-রেডি, যা HPC এবং AI উদ্ভাবনের পরবর্তী প্রজন্মের জন্য একটি ভারসাম্যপূর্ণ, উচ্চ-কর্মক্ষমতা সম্পন্ন ইন্টারকানেক্ট ভিত্তি সরবরাহ করে।টপোলজি ভিজ্যুয়ালাইজেশন:

• সমস্ত সুইচ, লিঙ্ক এবং এন্ডপয়েন্টগুলির স্বয়ংক্রিয় আবিষ্কার এবং গ্রাফিকাল উপস্থাপনা।পারফরম্যান্স ড্যাশবোর্ড:
• পোর্ট ব্যবহার, ত্রুটির হার এবং কনজেশন সূচকগুলির রিয়েল-টাইম ভিউ।প্রোঅ্যাক্টিভ অ্যালার্টিং:
• লিঙ্ক অবক্ষয়, তাপমাত্রা অস্বাভাবিকতা এবং পাওয়ার সাপ্লাই ব্যর্থতার জন্য থ্রেশহোল্ড-ভিত্তিক অ্যালার্ম।ফল্ট আইসোলেশন:
• ত্রুটিপূর্ণ কেবল, ট্রান্সসিভার বা সুইচ পোর্টগুলি সনাক্ত করে এমন গাইড ট্রাবলশুটিং ওয়ার্কফ্লো।উন্নত ট্রাবলশুটিংয়ের জন্য, প্রোডাকশন ওয়ার্কলোড স্থাপন করার আগে লিঙ্ক অখণ্ডতা যাচাই করতে লুপব্যাক পরীক্ষা এবং BER (বিট এরর রেট) বিশ্লেষণ সহ সুইচের অন্তর্নির্মিত ডায়াগনস্টিক সরঞ্জামগুলি ব্যবহার করুন। প্রাথমিক স্থাপনাগুলিতে সাধারণ সমস্যাগুলির মধ্যে অসম লিঙ্ক গতি বা বেমানান কেবল প্রকারের কারণে সাবঅপ্টিমাল রাউটিং অন্তর্ভুক্ত। অ্যাডাপ্টিভ রাউটিং সক্ষম করা এবং সমস্ত লিঙ্ক ২০০Gb/s (FEC সক্ষম সহ) এ চলছে তা যাচাই করা কর্মক্ষমতা অস্বাভাবিকতার বেশিরভাগ সমাধান করে।

৯২০-৯বি১১০-০০এফএইচ-০ডি০ ইনফিনিব্যান্ড সুইচ OPN ম্যানেজমেন্ট নোড ব্যর্থতার ক্ষেত্রে ফ্যাব্রিক পুনর্গঠন ম্যানুয়াল হস্তক্ষেপ ছাড়াই ঘটে তা নিশ্চিত করে রিডান্ডেন্ট সাবনেট ম্যানেজার কনফিগারেশনও সমর্থন করে।৬. সারসংক্ষেপ ও মূল্য মূল্যায়ন

৯২০-৯বি১১০-০০এফএইচ-০ডি০ HDR-ভিত্তিক HPC এবং AI ক্লাস্টার তৈরি বা সম্প্রসারণকারী সংস্থাগুলির জন্য একটি আকর্ষণীয় মূল্য প্রস্তাব সরবরাহ করে। এটি সাব-২০০ns ল্যাটেন্সি, SHARPv2 অফলোড এবং এন্টারপ্রাইজ-গ্রেড ম্যানেজেবিলিটি সহ ২০০Gb/s HDR-এর ৪০টি পোর্ট সরবরাহ করে—সবই একটি সাশ্রয়ী ১U প্ল্যাটফর্মে। মূল মূল্য পয়েন্টগুলির মধ্যে রয়েছে:কর্মক্ষমতা:

• SHARPv2 অফলোডিং এবং অ্যাডাপ্টিভ রাউটিংয়ের মাধ্যমে যোগাযোগ-নিবিড় ওয়ার্কলোডগুলির জন্য কাজের সমাপ্তির সময় ৩৫% পর্যন্ত হ্রাস।খরচ দক্ষতা:
• NDR বিকল্পগুলির তুলনায় কম TCO, প্রতি-পোর্ট খরচ HDR-স্কেল স্থাপনার জন্য অপ্টিমাইজ করা হয়েছে।অপারেশনাল সরলতা:
• ইউনিফাইড ম্যানেজমেন্ট, প্রোঅ্যাক্টিভ মনিটরিং এবং স্বয়ংক্রিয় ফেইলওভারের জন্য UFM-এর সাথে গভীর ইন্টিগ্রেশন।বিনিয়োগ সুরক্ষা:
• বিদ্যমান HDR কেবল, অপটিক্স এবং সফ্টওয়্যার স্ট্যাকগুলির সাথে সম্পূর্ণ সামঞ্জস্যতা, প্রোডাকশন ব্যাহত না করে পর্যায়ক্রমে আপগ্রেড সক্ষম করে।যারা

৯২০-৯বি১зіно-০০এফএইচ-০ডি০ বিক্রয়ের জন্য এনভিডিয়ার চ্যানেল পার্টনারদের মাধ্যমে মূল্যায়ন করছেন, আমরা বিস্তারিত ৯২০-৯বি১১০-০০এফএইচ-০ডি০ ডেটাশিট পর্যালোচনা করার এবং আপনার নির্দিষ্ট ওয়ার্কলোড এবং স্কেল প্রয়োজনীয়তাগুলির জন্য ডিজাইনটি যাচাই করতে একজন প্রত্যয়িত সমাধান স্থপতিের সাথে জড়িত হওয়ার সুপারিশ করি। এনভিডিয়া মেলানক্স ৯২০-৯বি১১০-০০এফএইচ-০ডি০ আজই প্রোডাকশন-রেডি, যা HPC এবং AI উদ্ভাবনের পরবর্তী প্রজন্মের জন্য একটি ভারসাম্যপূর্ণ, উচ্চ-কর্মক্ষমতা সম্পন্ন ইন্টারকানেক্ট ভিত্তি সরবরাহ করে।