Mellanox (NVIDIA Mellanox) MCX631102AN-ADAT সার্ভার অ্যাডাপ্টার অ্যাকশনেঃ RDMA/RoCE লো-লেটেন্সি ট্রান্সপোর্ট এবং সার্ভার

Mellanox (NVIDIA Mellanox) MCX631102AN-ADAT সার্ভার অ্যাডাপ্টার অ্যাকশনেঃ RDMA/RoCE লো-লেটেন্সি ট্রান্সপোর্ট এবং সার্ভার থ্রুপুট অপ্টিমাইজেশন

পটভূমি ও চ্যালেঞ্জঃ বিতরণকৃত স্টোরেজ এবং এআই প্রশিক্ষণে নেটওয়ার্ক বোতল ঘা

একটি মাঝারি আকারের ক্লাউড সার্ভিস প্রোভাইডারের একটি বাস্তব-বিশ্বের উত্পাদন পরিবেশে, মূল ব্যবসায়িক পোর্টফোলিওতে বিতরণকৃত ব্লক স্টোরেজ (সিইএফ) এবং জিপিইউ ভিত্তিক এআই মডেল প্রশিক্ষণ প্ল্যাটফর্ম অন্তর্ভুক্ত রয়েছে।গ্রাহক তথ্যের পরিমাণ ২০০% এরও বেশি বার্ষিক হারে বেড়েছে, উত্তরাধিকার 10GbE TCP/IP নেটওয়ার্ক আর্কিটেকচার ধীরে ধীরে দুটি সমালোচনামূলক অসুবিধা পয়েন্ট উন্মুক্ত। প্রথমত, স্টোরেজ নোডগুলির মধ্যে ডেটা সিঙ্ক্রোনাইজেশন বিলম্ব 2.5ms পর্যন্ত পৌঁছেছে,NVMe স্টোরেজ পুলকে তার পূর্ণ পারফরম্যান্স সম্ভাব্যতা প্রদান করতে বাধা দেওয়াদ্বিতীয়ত, জিপিইউ প্রশিক্ষণ ক্লাস্টারে গ্রেডিয়েন্ট সিঙ্ক্রোনাইজেশনের সময়, নেটওয়ার্ক থ্রুপুট শুধুমাত্র তত্ত্বগত ব্যান্ডউইথের 60% অর্জন করতে পারে,নেটওয়ার্ক প্রোটোকল স্ট্যাক দ্বারা ব্যবহৃত CPU রিসোর্সের একটি উল্লেখযোগ্য অংশ, প্রশিক্ষণ পুনরাবৃত্তি দক্ষতা গুরুতরভাবে বাধাগ্রস্ত।আর্কিটেকচার টিমকে জরুরিভাবে একটি নেটওয়ার্ক ইন্টারফেস সমাধান প্রয়োজন যা উভয়ই ট্রান্সমিশন লেটেন্সি হ্রাস করতে পারে এবং কার্যকর সার্ভার থ্রুপুটকে উল্লেখযোগ্যভাবে উন্নত করতে পারে.

সমাধান ও বাস্তবায়নঃ MCX631102AN-ADAT ConnectX-6 Lx এর সাথে RoCE মেরামত

একাধিক বিকল্প মূল্যায়ন করার পর, দলটিমেলানক্স (এনভিআইডিআইএ মেলানক্স) MCX631102AN-ADATতাদের নেটওয়ার্ক আধুনিকীকরণ উদ্যোগের ভিত্তিপ্রস্তর হিসাবে।MCX631102AN-ADAT ইথারনেট অ্যাডাপ্টার কার্ডবিদ্যমান 10GbE অ্যাডাপ্টার প্রতিস্থাপন করে 120 স্টোরেজ নোড এবং 64 জিপিইউ কম্পিউটিং নোড জুড়ে স্থাপন করা হয়েছিল। প্রতিটি সার্ভার দ্বৈত-পোর্ট 25GbE SFP28 কনফিগারেশন দিয়ে সজ্জিত ছিল,একটি পোর্ট উৎপাদন RoCE ফ্যাব্রিক সংযোগ এবং পরিচালনা এবং ব্যাকআপ ট্রাফিক জন্য সংরক্ষিত দ্বিতীয় পোর্ট সঙ্গে..........MCX631102AN-ADAT ConnectX-6 Lx ডুয়াল পোর্ট 25GbE SFP28অ্যাডাপ্টারের নেটিভ RoCE v2 সমর্থন, অতিরিক্ত গেটওয়ে ডিভাইস বা প্রোটোকল ট্রান্সলেশন স্তরগুলির প্রয়োজনীয়তা দূর করে।

বাস্তবায়নটি ধাপে ধাপে পদ্ধতি অনুসরণ করেছে।MCX631102AN-ADAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধানস্টোরেজ আই / ও পাথগুলিতে এনভিএমই ওভার ফ্যাব্রিক্স (এনভিএমই-ওএফ) রস পরিবহন সহ সক্ষম করে। এটি অবিলম্বে স্টোরেজ আই / ও পাথগুলিতে টিসিপি / আইপি স্ট্যাক ওভারহেড দূর করে। দ্বিতীয় পর্যায়ে, জিপিইউ কম্পিউটিং নোডগুলি আপগ্রেড করা হয়েছিল,অ্যাডাপ্টারের জিপিইউডিরেক্ট স্টোরেজ সক্ষমতা সহ জিপিইউ মেমরিকে রোসিই নেটওয়ার্কের মাধ্যমে দূরবর্তী এনভিএম স্টোরেজের সাথে সরাসরি যোগাযোগ করতে দেয়. পুরো স্থাপনাটি দুই সপ্তাহের মধ্যে সম্পন্ন হয়েছিল, বিদ্যমান 25GbE সুইচ অবকাঠামো বজায় রেখে,MCX631102AN-ADAT সামঞ্জস্যপূর্ণস্ট্যান্ডার্ড ডেটা সেন্টার নেটওয়ার্কিং সরঞ্জাম সঙ্গে প্রকৃতি.

পরিমাপকৃত ফলাফল এবং কর্মক্ষমতা বৃদ্ধি

কর্মক্ষমতা উন্নতিএনভিডিয়া মেলানক্স এমসিএক্স৬৩১১০২এএন-এডিএটিনিম্নলিখিত টেবিলটি উৎপাদন পরিবেশে পর্যবেক্ষণ করা মূল আগে এবং পরে মেট্রিকগুলিকে সংক্ষিপ্ত করেঃ

পরিমাণগত পরিমাপ ছাড়াও, দলটি অপারেশন স্থিতিশীলতার গুণগত উন্নতি লক্ষ্য করেছে।MCX631102AN-ADATট্র্যাফিকের ঘটনাগুলির সময় আগে পর্যায়ক্রমিক থ্রুপুট ড্রপগুলি নির্মূল করে, লেটেন্সি-সংবেদনশীল প্রশিক্ষণ কাজের জন্য পূর্বাভাসযোগ্য কর্মক্ষমতা প্রদান করে।MCX631102AN-ADAT স্পেসিফিকেশন, অ্যাডাপ্টারের উন্নত স্টিয়ারিং ইঞ্জিন এবং আরডিএমএ ক্ষমতা নিশ্চিত করে যে প্রতি পোর্টে 128 সমান্তরাল এনভিএম-ওএফ সংযোগের সাথেও লাইন-রেট পারফরম্যান্স ধারাবাহিকভাবে বজায় রাখা হয়েছিল।

মোট খরচ দৃষ্টিকোণ থেকে, স্থাপত্য দল হিসাব যেMCX631102AN-ADAT দামপ্রতি গিগাবাইট কার্যকর থ্রুপুট 40GbE বা 100GbE বিকল্পগুলিতে আপগ্রেড করার তুলনায় উল্লেখযোগ্যভাবে কম ছিল।বিদ্যমান এসএফপি২৮ ক্যাবলিং এবং সুইচিং অবকাঠামো পুনরায় ব্যবহারের ক্ষমতা মূলধন ব্যয়কে আরও হ্রাস করেছে, যাবিক্রির জন্য MCX631102AN-ADATমূল্যায়ন প্রদানকারীর নেতৃত্বের জন্য একটি বাধ্যতামূলক ব্যবসায়িক মামলা।

সংক্ষিপ্ত বিবরণ ও দৃষ্টিভঙ্গি: ভবিষ্যতের জন্য প্রস্তুত নেটওয়ার্ক ফাউন্ডেশন তৈরি করা

এই প্রকল্পের উৎপাদনমেলানক্স (এনভিআইডিআইএ মেলানক্স) MCX631102AN-ADATতাদের বিতরণকৃত অবকাঠামোর পূর্ণ সম্ভাবনা উন্মোচন করতে চাইছে এমন সংস্থাগুলির জন্য একটি পরিষ্কার পথ প্রদর্শন করে।হার্ডওয়্যার-গতিসম্পন্ন অফলোডগুলির সাথে RDMA/RoCE নিম্ন-ল্যাটেনসি পরিবহনকে একত্রিত করে, অ্যাডাপ্টার কার্যকরভাবে নেটওয়ার্ককে পারফরম্যান্স বোতলঘাট হিসাবে দূর করে দেয়, এটি এআই প্রশিক্ষণ, সফ্টওয়্যার-সংজ্ঞায়িত স্টোরেজ বা উচ্চ-ফ্রিকোয়েন্সি লেনদেন প্রক্রিয়াকরণের জন্য।দলের অভিজ্ঞতা নিশ্চিত করে যেMCX631102AN-ADAT ইথারনেট অ্যাডাপ্টার কার্ডএটি কেবলমাত্র বেঞ্চমার্ক উন্নতিই নয়, বরং কার্যকর উত্পাদনশীলতা বৃদ্ধি করেঃ জিপিইউ প্রশিক্ষণের কাজের সমাপ্তির সময় গড় 34% হ্রাস পেয়েছে,এবং স্টোরেজ ক্লাস্টার প্রতিক্রিয়া সময় SLAs এমনকি পিক লোড সময়কালে ধারাবাহিকভাবে পূরণ করা হয়.

ভবিষ্যতের দিকে তাকিয়ে, সরবরাহকারী পরিকল্পনা স্কেলMCX631102AN-ADAT ConnectX-6 Lx ডুয়াল পোর্ট 25GbE SFP28এনভিআইডিআইএর ব্লুফিল্ড ডিপিইউগুলির সাথে অ্যাডাপ্টারের সংহতকরণের জন্য আরও নেটওয়ার্ক প্রোগ্রামযোগ্যতার জন্য প্রাথমিক মূল্যায়ন ইতিমধ্যে চলছে।অনুরূপ আপগ্রেড মূল্যায়ন ইঞ্জিনিয়ারিং টিমের জন্য, বিস্তারিতMCX631102AN-ADAT ডেটা শীটসামঞ্জস্যতা ম্যাট্রিক্স, পারফরম্যান্স টিউনিং প্যারামিটার এবং রেফারেন্স আর্কিটেকচার সম্পর্কিত বিস্তৃত নির্দেশিকা প্রদান করে।হার্ডওয়্যার-অফলোডড 25GbE অ্যাডাপ্টার যেমন MCX631102AN-ADAT দ্রুত কর্মক্ষমতা সচেতন ডেটা সেন্টার ডিজাইনের জন্য নতুন বেসলাইন হয়ে উঠছে.