এআই প্রশিক্ষণ ক্লাস্টারে নেটওয়ার্ক বোতল ঘাঃ মেলানোক্সের সমাধান

সংবাদ বিজ্ঞপ্তি:কৃত্রিম বুদ্ধিমত্তার মডেলগুলি জটিলতার দিক থেকে ক্রমবর্ধমান হওয়ায়, উচ্চ-কার্যকারিতা, স্কেলযোগ্য কম্পিউটিংয়ের চাহিদা কখনই বেশি ছিল না।একটি সমালোচনামূলক কিন্তু প্রায়ই উপেক্ষা করা উপাদান হল অন্তর্নিহিতএআই নেটওয়ার্কিংমেলেনক্স, উচ্চ-কার্যকারিতা আন্তঃসংযোগ সমাধানগুলির অগ্রগামী, তার কাটিয়া প্রান্তের সাথে এই সুনির্দিষ্ট চ্যালেঞ্জের সমাধান করছেকম বিলম্বিত ইন্টারকানেকশনপ্রযুক্তি, যা বোতল ঘাঁটি দূর করতে এবং প্রতিটি প্রকল্পের কার্যকারিতা সর্বাধিক করতে ডিজাইন করা হয়েছে।জিপিইউ ক্লাস্টার.

আধুনিক এআই প্রশিক্ষণ, বিশেষ করে লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম) এবং কম্পিউটার ভিজনের জন্য, জিপিইউগুলির বিস্তৃত অ্যারে জুড়ে সমান্তরাল প্রক্রিয়াকরণের উপর নির্ভর করে। শিল্প বিশ্লেষণগুলি ইঙ্গিত দেয় যে 1024-জিপিইউ ক্লাস্টারে,নেটওয়ার্কের সাথে সম্পর্কিত বোতলঘাটগুলি জিপিইউ ব্যবহারকে সম্ভাব্য 95% থেকে 40% এর নিচে নেমে যেতে পারেএই অকার্যকারিতা সরাসরি প্রশিক্ষণের দীর্ঘ সময়, বর্ধিত শক্তি খরচ এবং উল্লেখযোগ্যভাবে উচ্চতর অপারেটিং খরচগুলিতে অনুবাদ করে।এআই নেটওয়ার্কিংশুধু সুবিধা নয়, এটা একটা প্রয়োজনীয়তা।

মেলানক্সের পদ্ধতি সামগ্রিক, এটি একটি সম্পূর্ণ অবকাঠামো স্ট্যাক প্রদান করে যা এআই ওয়ার্কলোডের জন্য ডিজাইন করা হয়েছে।এই সমাধানের মূলটি ইথারনেট সুইচগুলির স্পেকট্রাম পরিবার এবং স্মার্ট নেটওয়ার্ক ইন্টারফেস কার্ডগুলির কানেক্টএক্স সিরিজ (এনআইসি)এই উপাদানগুলো বিশেষভাবে একযোগে কাজ করার জন্য ডিজাইন করা হয়েছে, সার্ভারগুলির মধ্যে একটি বিরতিহীন ডেটা পাইপলাইন তৈরি করে।

প্রধান প্রযুক্তিগত পার্থক্যগুলির মধ্যে রয়েছেঃ

• ইন-নেটওয়ার্ক কম্পিউটিং:সিপিইউ থেকে এনআইসিতে ডেটা প্রসেসিংয়ের কাজগুলোকে অপসারণ করে, লেটেন্সিকে ব্যাপকভাবে কমিয়ে দেয়।
• অ্যাডাপ্টিভ রাউটিং ও RoCE:সর্বোত্তম ডেটা পাথ নির্বাচন নিশ্চিত করে এবং দক্ষতার জন্য কনভার্জেড ইথারনেটের (RoCE) উপর RDMA ব্যবহার করে,কম বিলম্বিত ইন্টারকানেকশনযোগাযোগ।
• স্কেলেবল হাইয়ারারকিকেল ফ্যাব্রিকঃকর্মক্ষমতা হ্রাস ছাড়াই কয়েক হাজার পোর্টে স্কেল করতে পারে এমন নন-ব্লকিং ক্লোজ (লেফ-স্পিন) আর্কিটেকচারগুলি সমর্থন করে।

মেলানক্সের সমাধানের কার্যকারিতা বাস্তব জগতে প্রয়োগে প্রমাণিত হয়েছে।নিম্নলিখিত টেবিলে একটি স্ট্যান্ডার্ড টিসিপি / আইপি নেটওয়ার্ক এবং একটি বড় আকারের এআই প্রশিক্ষণ পরিবেশে মেলানোক্স RoCE- সক্ষম ফ্যাব্রিকের মধ্যে একটি কর্মক্ষমতা তুলনা চিত্রিত করা হয়েছে.

কোম্পানি এবং গবেষণা প্রতিষ্ঠানগুলির জন্য যারা জিপিইউ কম্পিউটিং রিসোর্সে লক্ষ লক্ষ বিনিয়োগ করে, নেটওয়ার্ক হল কেন্দ্রীয় স্নায়ুতন্ত্র যা সামগ্রিক ROI নির্ধারণ করে।এআই নেটওয়ার্কিংসমাধান সমালোচনামূলক প্রদানকম বিলম্বিত ইন্টারকানেকশনএকটি মাল্টি-নড নিশ্চিত করার জন্য প্রয়োজনীয়জিপিইউ ক্লাস্টারএটি একটি একক, সংহত সুপারকম্পিউটার হিসাবে কাজ করে। এটি দ্রুততর অন্তর্দৃষ্টি সময়, মালিকানা মোট খরচ (টিসিও) হ্রাস এবং আরও উচ্চাভিলাষী এআই চ্যালেঞ্জ মোকাবেলা করার ক্ষমতা অনুবাদ করে।