মেলাক্স (এনভিআইডিয়া) ৯২০-৯বি১১0-00এফএইচ-0ডি0 ইনফিনিব্যান্ড সুইচ অ্যাপ্লিকেশন অনুশীলন

পটভূমি ও চ্যালেঞ্জ: একটি মাল্টি-মডেল এআই গবেষণা কেন্দ্রে নেটওয়ার্কের সীমাবদ্ধতা

একটি শীর্ষস্থানীয় মাল্টি-মডেল এআই গবেষণা কেন্দ্র, যার কাজ বৃহৎ ভাষা মডেল প্রশিক্ষণ, বৈজ্ঞানিক কম্পিউটিং সিমুলেশন এবং স্বায়ত্তশাসিত সিস্টেমের বিকাশে বিস্তৃত ছিল, একটি গুরুত্বপূর্ণ স্কেলেবিলিটি সমস্যার সম্মুখীন হচ্ছিল। তাদের বিদ্যমান 100Gb/s ইথারনেট ফ্যাব্রিক, বিতরণকৃত প্রশিক্ষণ কাজের তীব্র, সর্ব-থেকে-সর্ব যোগাযোগ প্যাটার্নের কারণে সমস্যা সৃষ্টি করছিল। প্রধান চ্যালেঞ্জগুলি ছিল তিনটি: নেটওয়ার্কের যানজটের কারণে অপ্রত্যাশিত কাজের সমাপ্তির সময়, 60% এর নিচে প্রায়শই অদক্ষ GPU ব্যবহার, এবং গুরুতর কর্মক্ষমতা হ্রাস ছাড়াই 256টির বেশি নোডের বাইরে স্কেল করতে না পারা। একটি সুনির্দিষ্ট, অতি-নিম্ন-বিলম্বিত ফ্যাব্রিকের প্রয়োজনীয়তা ছিল সবচেয়ে গুরুত্বপূর্ণ।

সমাধান ও স্থাপন: 920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ OPN দিয়ে আর্কিটেকচার তৈরি করা

কেন্দ্রের প্রকৌশলীরা **NVIDIA Mellanox 920-9B110-00FH-0D0** এর উপর ভিত্তি করে একটি নতুন ক্লাস্টার ব্যাকবোন ডিজাইন করেছেন। তাদের সমাধানের মূল ভিত্তি ছিল একটি দ্বি-স্তরীয় নন-ব্লকিং ফ্যাট-ট্রি টপোলজি, যা এই সুইচগুলিকে লিফ এবং স্পাইন উভয় নোড হিসাবে ব্যবহার করে। **920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDR** কোর 1,000-এর বেশি NVIDIA A100 এবং H100 GPU-কে নির্বিঘ্নে ইন্টারকানেক্ট করার জন্য প্রয়োজনীয় দ্বি-দিকনির্দেশক ব্যান্ডউইথ এবং পোর্ট ঘনত্ব সরবরাহ করে।

মূল স্থাপন সংক্রান্ত সিদ্ধান্তগুলির মধ্যে ছিল:

• ফ্যাব্রিক ভিত্তি:**920-9B110-00FH-0D0** এর মান স্থাপন একটি সুসংগত, উচ্চ-কার্যকারিতা সম্পন্ন ফ্যাব্রিক নিশ্চিত করেছে, যা পরিচালনা এবং সমস্যা সমাধানকে সহজ করে।
• ইন-নেটওয়ার্ক কম্পিউটিং সক্ষমতা:NVIDIA-এর Scalable Hierarchical Aggregation and Reduction Protocol (SHARP)™ ফ্যাব্রিক জুড়ে সক্রিয় করা হয়েছিল, যা CPU থেকে সুইচ নেটওয়ার্কে সম্মিলিত অপারেশন (যেমন All-Reduce) অফলোড করে।
• এন্ড-টু-এন্ড RDMA:**920-9B110-00FH-0D0 সামঞ্জস্যপূর্ণ** ইকোসিস্টেম, যার মধ্যে ConnectX-7 অ্যাডাপ্টার অন্তর্ভুক্ত, ডেটা মুভমেন্টের জন্য অপারেটিং সিস্টেম এবং CPU-কে বাইপাস করে একটি সত্যিকারের RDMA (Remote Direct Memory Access) এন্ড-টু-এন্ড পাথ সক্ষম করেছে।
• বুদ্ধিমান ব্যবস্থাপনা:ফ্যাব্রিকটি NVIDIA UFM® দ্বারা পরিচালিত হয়েছিল, যা সক্রিয় স্বাস্থ্য পর্যবেক্ষণ এবং কর্মক্ষমতা অপ্টিমাইজেশনের জন্য গভীর টেলিমেট্রি এবং এআই-চালিত অন্তর্দৃষ্টি প্রদান করে।

ফলাফল ও সুবিধা: কর্মক্ষমতা এবং দক্ষতার পরিমাণগত লাভ

**920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ OPN সমাধানের** স্থাপনা রূপান্তরমূলক ফলাফল দিয়েছে, যা সরাসরি প্রাথমিক চ্যালেঞ্জগুলি সমাধান করেছে। স্থানান্তরের আগে এবং পরে কর্মক্ষমতা মেট্রিকগুলি রেকর্ড করা হয়েছিল।

উপকারিতাগুলি কেবল গতির বাইরেও বিস্তৃত ছিল। পূর্বাভাসের যোগ্য কাজের সমাপ্তির সময়ের কারণে পরিচালন দক্ষতা বৃদ্ধি পেয়েছে। গবেষকরা এখন আত্মবিশ্বাসের সাথে বৃহত্তর, আরও জটিল পরীক্ষাগুলি শুরু করতে পারতেন, যা উদ্ভাবনের গতি বাড়িয়ে তোলে। অফিসিয়াল ডেটাশিটে বিস্তারিত **920-9B110-00FH-0D0 স্পেসিফিকেশন**, এই মিশন-সমালোচনামূলক স্থাপনার জন্য প্রয়োজনীয় প্রকৌশলগত আত্মবিশ্বাস প্রদান করেছে।

উপসংহার ও ভবিষ্যৎ সম্ভাবনা

এই অ্যাপ্লিকেশন কেসটি স্পষ্টভাবে দেখায় যে **Mellanox (NVIDIA) 920-9B110-00FH-0D0** কেবল একটি সুইচিং উপাদান থেকে অনেক বেশি কিছু; এটি আধুনিক এআই এবং HPC অবকাঠামোর জন্য একটি কম্পিউটেশনাল এনাবলার। সুনির্দিষ্ট কম ল্যাটেন্সি প্রদান করে, ইন-নেটওয়ার্ক কম্পিউটিং ব্যবহার করে এবং নির্বিঘ্ন RDMA সক্ষম করে, এটি ক্লাস্টার কর্মক্ষমতাকে একটি সীমাবদ্ধতা থেকে প্রতিযোগিতামূলক সুবিধায় রূপান্তরিত করে।

এই স্থাপনার সাফল্য সমন্বিত **920-9B110-00FH-0D0 ইনফিনিব্যান্ড সুইচ OPN সমাধানের** মূল্যকে তুলে ধরে। এআই মডেল এবং বৈজ্ঞানিক ডেটাসেটগুলি ক্রমবর্ধমানভাবে বাড়তে থাকায়, এই সুইচ দ্বারা সক্ষম আর্কিটেকচারাল নীতিগুলি ডি ফ্যাক্টো স্ট্যান্ডার্ড হয়ে উঠবে। যে সংস্থাগুলি **920-9B110-00FH-0D0 বিক্রয়ের জন্য** এবং এর **920-9B110-00FH-0D0 মূল্য** মোট মালিকানা ব্যয়ের (TCO) বিরুদ্ধে মূল্যায়ন করছে, তাদের জন্য এই কেসটি এমন একটি নেটওয়ার্কে বিনিয়োগের জন্য একটি আকর্ষণীয় যুক্তি প্রদান করে যা প্রতিটি কম্পিউট ডলারের সম্পূর্ণ সম্ভাবনা উন্মোচন করে।