মেলানোক্স (এনভিআইডিএ) এমসিএক্স 556 এ-ইসিএটি সার্ভার নেটওয়ার্ক অ্যাডাপ্টার অনুশীলনেঃ আরডিএমএ / রোসিই লো-লেটেন্সি ট্রান্সমিশন এবং সার্ভার

ডেটা বিস্ফোরণের আজকের যুগে, এন্টারপ্রাইজ ডেটা সেন্টারগুলি অভূতপূর্ব চ্যালেঞ্জের সম্মুখীন হচ্ছে: ডেটা সামঞ্জস্যতা নিশ্চিত করার সময় কীভাবে দ্রুত ট্রান্সমিশন গতি এবং উচ্চতর সার্ভার থ্রুপুট অর্জন করা যায়। বিশেষ করে আর্থিক ট্রেডিং, উচ্চ-ফ্রিকোয়েন্সি অ্যানালিটিক্স এবং বৃহৎ-স্কেল ডিস্ট্রিবিউটেড স্টোরেজের মতো পরিস্থিতিতে, ঐতিহ্যবাহী TCP/IP প্রোটোকল স্ট্যাক দ্বারা প্রবর্তিত ল্যাটেন্সি ব্যবসায়িক উন্নয়নের সীমাবদ্ধতার একটি মূল বাধা হয়ে দাঁড়িয়েছে। এই নিবন্ধটি Mellanox (NVIDIA) MCX556A-ECAT সার্ভার নেটওয়ার্ক অ্যাডাপ্টারের উপর ভিত্তি করে একটি সাধারণ অ্যাপ্লিকেশন কেস অনুসন্ধান করে, যা RDMA/RoCE প্রযুক্তির মাধ্যমে কীভাবে এটি লো-ল্যাটেন্সি ট্রান্সমিশন আর্কিটেকচারকে নতুনভাবে তৈরি করে তা প্রদর্শন করে।

একটি বৃহৎ ইন্টারনেট এন্টারপ্রাইজ (এতদনুসারে "এন্টারপ্রাইজ" হিসাবে উল্লেখ করা হবে) রিয়েল-টাইম ঝুঁকি নিয়ন্ত্রণ বিশ্লেষণ এবং বিশাল লগ প্রক্রিয়াকরণের সাথে সম্পর্কিত মূল ব্যবসাগুলি জড়িত ছিল। মূল ডেটা সেন্টার নেটওয়ার্ক আর্কিটেকচার TCP/IP প্রোটোকল সহ স্ট্যান্ডার্ড 25GbE NICs ব্যবহার করত। ব্যবসায়িক পরিমাণ বৃদ্ধির সাথে সাথে, সিপিইউগুলি প্রায়শই নেটওয়ার্ক প্যাকেট প্রক্রিয়াকরণের কাজগুলিতে ব্যস্ত থাকত, যার ফলে অ্যাপ্লিকেশন প্রতিক্রিয়া ল্যাটেন্সি উল্লেখযোগ্যভাবে বৃদ্ধি পায় এবং সার্ভার থ্রুপুট দীর্ঘ সময়ের জন্য বটলনেকের নিচে আটকে থাকে। একই সময়ে, স্টোরেজ ক্লাস্টার এবং কম্পিউট নোডগুলির মধ্যে ডেটা এক্সচেঞ্জ ল্যাটেন্সি কয়েকশ মাইক্রোসেকেন্ড পর্যন্ত বেশি ছিল, যা এআই মডেলগুলির প্রশিক্ষণের দক্ষতাকে মারাত্মকভাবে প্রভাবিত করে। এন্টারপ্রাইজ জরুরিভাবে তার পরবর্তী প্রজন্মের ডেটা-ইনটেনসিভ অ্যাপ্লিকেশনগুলিকে সমর্থন করার জন্য লো-ল্যাটেন্সি এবং লো সিপিইউ ইউটিলাইজেশন সক্ষম একটি নেটওয়ার্ক সমাধান চেয়েছিল।

তাদের তদন্তের সময়, প্রযুক্তি দল সমস্যা সমাধানের মূল চাবিকাঠি হিসাবে RDMA (রিমোট ডাইরেক্ট মেমরি অ্যাক্সেস) প্রযুক্তি চিহ্নিত করে। তবে, ঐতিহ্যবাহী InfiniBand সমাধানগুলি ব্যয়বহুল ছিল এবং এন্টারপ্রাইজের বিদ্যমান ইথারনেট পরিবেশের সাথে একীভূত করা কঠিন ছিল। অতএব, একটি উচ্চ-পারফরম্যান্স NIC খুঁজে বের করা যা RoCE (RDMA over Converged Ethernet) কে পুরোপুরি সমর্থন করতে পারে তা প্রকল্পের মূল প্রয়োজনীয়তা হয়ে ওঠে।

কঠোর পরীক্ষা এবং মূল্যায়নের পরে, এন্টারপ্রাইজ অবশেষে তার নেটওয়ার্ক আপগ্রেডের মূল উপাদান হিসাবে Mellanox (NVIDIA) MCX556A-ECAT নির্বাচন করে। এই NVIDIA Mellanox MCX556A-ECAT নেটওয়ার্ক কার্ড, ConnectX-5 আর্কিটেকচারের উপর ভিত্তি করে, RoCE v2 প্রযুক্তিকে নেটিভভাবে সমর্থন করে, স্ট্যান্ডার্ড ইথারনেট অবকাঠামোর উপর RDMA কার্যকারিতা সক্ষম করে এবং পারফরম্যান্স এবং খরচকে পুরোপুরি ভারসাম্যপূর্ণ করে। স্থাপনকারী দল এই MCX556A-ECAT ইথারনেট অ্যাডাপ্টার কার্ডটি মূল কম্পিউট এবং স্টোরেজ নোডগুলিতে ইনস্টল করে, বিদ্যমান 100GbE সুইচগুলির সাথে সেগুলিকে নেটওয়ার্ক করে।

স্থাপনের প্রক্রিয়া চলাকালীন, প্রকৌশলীরা এই MCX556A-ECAT ConnectX অ্যাডাপ্টার PCIe নেটওয়ার্ক কার্ডের বুদ্ধিমান অফলোডিং বৈশিষ্ট্যগুলির সম্পূর্ণ ব্যবহার করেছিলেন। QoS (Quality of Service) এবং PFC (Priority Flow Control) সক্ষম করার মাধ্যমে, তারা নেটওয়ার্ক কনজেশন চলাকালীনও RoCE ট্র্যাফিকের জন্য লো-ল্যাটেন্সি গ্যারান্টি নিশ্চিত করেছিল। পুরো স্থাপনের চক্রটি মাত্র দুই সপ্তাহ সময় নিয়েছিল এবং বিদ্যমান আপার-লেয়ার অ্যাপ্লিকেশনগুলির জন্য স্বচ্ছ ছিল, যা তাদের কোনও কোড পরিবর্তন ছাড়াই RDMA পারফরম্যান্সের সুবিধাগুলি উপভোগ করতে দেয়।

স্থাপনের পরে, এন্টারপ্রাইজের নেটওয়ার্ক পারফরম্যান্স একটি গুণগত উল্লম্ফন অর্জন করে। প্রথমত, RDMA প্রযুক্তির শক্তির সাথে, স্টোরেজ এবং কম্পিউট নোডগুলির মধ্যে ডেটা অ্যাক্সেস ল্যাটেন্সি 200 মাইক্রোসেকেন্ড থেকে 5 মাইক্রোসেকেন্ডের নিচে নেমে আসে, যা ডিস্ট্রিবিউটেড ডেটাবেসগুলির জন্য কোয়েরি প্রতিক্রিয়াগুলিকে নাটকীয়ভাবে ত্বরান্বিত করে। দ্বিতীয়ত, MCX556A-ECAT এর শক্তিশালী হার্ডওয়্যার অফলোডিং ক্ষমতাগুলির জন্য ধন্যবাদ, নেটওয়ার্ক প্রোটোকল প্রক্রিয়াকরণের জন্য সিপিইউ ওভারহেড 90% এর বেশি হ্রাস পায়। মুক্ত কম্পিউটিং সংস্থানগুলি মূল ব্যবসায়িক অ্যাপ্লিকেশনগুলিতে পুনরায় বরাদ্দ করা হয়েছিল, যার ফলে সামগ্রিক সার্ভার থ্রুপুট প্রায় তিনগুণ বৃদ্ধি পায়।

বিস্তারিত MCX556A-ECAT স্পেসিফিকেশন এবং প্রকৃত পর্যবেক্ষণ ডেটা অনুসারে, NIC উচ্চ কনকারেন্সি সহ ছোট ডেটা প্যাকেটগুলি পরিচালনা করার সময় চমৎকার পারফরম্যান্স প্রদর্শন করে, শূন্য প্যাকেট লস সহ ওয়্যার-স্পিড ফরওয়ার্ডিং অর্জন করে। এই বৈশিষ্ট্যটি উচ্চ-ফ্রিকোয়েন্সি ট্রেডিং এবং রিয়েল-টাইম ঝুঁকি নিয়ন্ত্রণ পরিস্থিতির জন্য অত্যন্ত গুরুত্বপূর্ণ। প্রযুক্তি প্রধান বলেছেন, "MCX556A-ECAT প্রবর্তনের পরে, আমাদের নেটওয়ার্ক বটলনেক সম্পূর্ণরূপে দূর হয়ে গেছে। এখন আমরা আত্মবিশ্বাসের সাথে আমাদের এআই প্রশিক্ষণ ক্লাস্টারগুলি প্রসারিত করতে পারি নেটওয়ার্ক দুর্বল লিঙ্ক হয়ে যাওয়ার চিন্তা না করে।" MCX556A-ECAT সামঞ্জস্যপূর্ণ সমাধান খুঁজছেন এমন অন্যান্য এন্টারপ্রাইজগুলির জন্য, এই কেসটি মূল্যবান রেফারেন্স সরবরাহ করে, প্রমাণ করে যে এটি কেবল একটি হার্ডওয়্যার নয়, বরং একটি প্রমাণিত MCX556A-ECAT ইথারনেট অ্যাডাপ্টার কার্ড সমাধান।

RDMA/RoCE দ্বারা আনা মূল সুবিধাগুলির বাইরে, এন্টারপ্রাইজ তার প্রয়োগের সময় MCX556A-ECAT এর আরও সম্ভাবনা উন্মোচন করে। উদাহরণস্বরূপ, এর অন্তর্নির্মিত ভার্চুয়ালাইজেশন অফলোড বৈশিষ্ট্যগুলির ব্যবহার ভার্চুয়ালাইজড পরিবেশে নেটওয়ার্ক ঘনত্বকে উল্লেখযোগ্যভাবে উন্নত করে; ডায়নামিক ইন্টারাপ্ট কন্ট্রোল প্রযুক্তি সিপিইউ ক্যাশে হিট রেটকে আরও অপ্টিমাইজ করে। এই বিস্তারিত অপ্টিমাইজেশনগুলি সম্মিলিতভাবে এন্টারপ্রাইজের ডেটা সেন্টার আধুনিকীকরণ প্রচেষ্টার জন্য একটি শক্তিশালী ভিত্তি তৈরি করে।

অন্যান্য সম্ভাব্য ব্যবহারকারীদের পণ্যের বিবরণ বুঝতে সাহায্য করার জন্য, এন্টারপ্রাইজ অফিসিয়াল MCX556A-ECAT ডেটাশিট উল্লেখ করার সুপারিশ করে, যাতে সম্পূর্ণ পারফরম্যান্স প্যারামিটার এবং সামঞ্জস্যতার তালিকা রয়েছে। বর্তমানে, বিক্রয়ের জন্য এই MCX556A-ECAT বিশ্ব বাজারে উপলব্ধ, এবং নির্দিষ্ট MCX556A-ECAT মূল্যের বিবরণ সংগ্রহ পরিমাণের উপর ভিত্তি করে অফিসিয়াল NVIDIA চ্যানেলগুলির সাথে যোগাযোগ করে পাওয়া যেতে পারে।

এই কেসটি লো-ল্যাটেন্সি ট্রান্সমিশন এবং হাই-থ্রুপুট চ্যালেঞ্জগুলি মোকাবেলায় Mellanox (NVIDIA) MCX556A-ECAT এর ব্যতিক্রমী পারফরম্যান্স স্পষ্টভাবে প্রদর্শন করে। RDMA/RoCE প্রযুক্তির গভীর প্রয়োগের মাধ্যমে, এটি কেবল ঐতিহ্যবাহী নেটওয়ার্ক আর্কিটেকচারের পারফরম্যান্স বটলনেকগুলি সমাধান করে না, বরং এন্টারপ্রাইজের ভবিষ্যতের ডেটা-ইনটেনসিভ উদ্ভাবনের পথও প্রশস্ত করে। 400G/800G এর যুগ আসার সাথে সাথে, NVIDIA Mellanox MCX556A-ECAT দ্বারা মূর্ত স্মার্ট NIC ধারণাটি ডেটা সেন্টার নেটওয়ার্কগুলির বিবর্তনকে আরও বেশি দক্ষতা এবং বুদ্ধিমত্তার দিকে চালিত করতে থাকবে।