AMX და HBM2e მნიშვნელოვანი უპირატესობებით უზრუნველყოფენ Intel Xeon Max-ს ხელოვნურ ინტელექტთან დაკავშირებულ დატვირთვებში

[Magdalena]

ინტერნეტში გამოჩნდა ახალი მონაცემები 64 გბ HBM2e მეხსიერების მქონე Intel Xeon Max პროცესორების შესახებ. რესურს Phoronix-მა გამოაქვეყნა ორპროცესორიან პლატფორმა Xeon Max 9480-ის AMD EPYC 9004-თან შედარების ტესტების შედეგები. 

როგორც ცნობილია, Intel Xeon პროცესორები დიდი ხანია ბირთვების მაქსიმალური რაოდენობით მნიშვნელოვნად ჩამორჩება AMD EPYC-ს - ჩვეულებრივ  Sapphire Rapids-საც კი, რომელშიც წარმოდგენილია 60 ბირთვი, Xeon Max-ის მაქსიმალურ კონფიგურაციაში კი - მხოლოდ 56. თუმცა ახალ თაობაში Intel ცდილობს დანაკლისი შეავსოს არა რაოდენობით, არამედ შესაძლებლობებით - ახალი გაფართოებების, კერძოდ AMX-ის მხარდაჭერით. 

ხელოვნურ ინტელექტთან დაკავშირებულ დატვირთვებში, რომლის შედეგები Phoronix-მა გამოაქვეყნა, მონაწილეობდა ორპროცესორიანი სისტემა Xeon Max 9480-ის ბაზაზე სხვადასხვა რეჟიმში (მხოლოდ HBM-ით, HBM-ის გარეშე ან HBM-ით ქეშირების რეჟიმში), აგრეთვე AMD-ის ორპროცესორიანი სისტემები EPYC 9554-ის (128 ბირთვი) და EPYC 9654-ის (192 ბირთვი) ბაზაზე. ბენჩმარკების სახით არჩეული იყო ფრეიმვორქები OpenVINO (AMX-ზე ოპტიმიზებული) და ONNX (ღრმა ოპტიმიზაციის გარეშე). 

 

ფოტოს წყარო: Phoronix 

OpenVINO-ს მთელ რიგ ტესტებში ყველაზე მაღალი შედეგი აჩვენა Xeon Max პლატფორმამ HBM Only რეჟიმში მიუხედავად ბირთვების რაოდენობის მხრივ უზარმაზარი ჩამორჩენისა. და ყველაზე ცუდი შედეგიც Xeon Max-ს ეკუთვნის, როდესაც HBM გამორთულია და AVX512 FP16-ზე გადადის AMX-ის გამოყენების გარეშე. 

 

ზოგ შემთხვევაში AMD-ს შეუძლია რევანშის აღება ბირთვების რაოდენობის წყალობით, ამასთან, გათიშული HBM2e ყოველთვის ვერ ახერხებს „წითლების“ გადარჩენას - AMX-ის წყალობით Intel საკმოდ თავდაჯერებულად ლიდერობს ბევრ ტესტში. GPT-2 ენის მოდელზე დამყარებულ ONNX Runtime 1.14-ში ტესტირებამ ასევე აჩვენა, რომ Xeon Max უსწრებს EPYC Genoa-ს - თუმცა სერიოზული განსხვავება მიიღწევა მხოლოდ HBM-ის გამოყენებისას. 

 

HBM-ის გარეშეც კი AMX მხარდაჭერა ხელს უწყობს Xeon Max-ს ღირსეული შედეგის დაფიქსირებში 

Intel-ის მიდგომა აჩვენებს შესანიშნავ შედეგებს: ზოგიერთ შემთხვევაში AVX512-დან AMX-ზე გადასვლა საშუალებას იძლევა წარმადობა 2.5-ჯერ გაიზარდოს. HBM2e-ის წყალობით მიიღწევა კიდევ დაახლოებით 25%-ით მეტი და ზოგადად ზრდამ შეიძლება 3.13-ჯერადს მიაღწიოს. თუმცა AMD-ს აქვს EPYC Genoa-X უზარმაზარი მოცულობის 3D V-Cache-ით, ამიტომ ამ ბრძოლის მომდევნო რაუნდი დიდ ინტერესს იწვევს. 

https://tinyurl.com/2s47y2p3