AMD-მ და Samsung-მა შექმნეს უნიკალური ექსპერიმენტალური ხელოვნური ინტელექტის მქონე სუპერკომპიუტერი HBM-PIM სმარტ მეხსიერებითა და Instinct ამაჩქარებლებით

[Magdalena]

მეხსიერებაში გამოთვლის კონცეფციას (in-memory computing) მთელი რიგი უპირატესობები აქვს HPC-სისტემების აწყობისას და კომპანია Samsung-მა ამ სფეროში მნიშვნელოვანი ნაბიჯი გადადგა. პრაქტიკაში პირველად სამხრეთკორეულმა გიგანტმა ექსპერიმენტალურ სუპერკომპიტერში ერთად განათავსა თავისი in-memory ჩიპები და AMD Instinct ამაჩქარებლები. Samsung-ის განცხადების თანახმად ამგვარი უერთიერთშეთავსება წარმადობის მნიშვნელოვან ზრდას უზრუნველყოფს „მძიმე“ ხელოვნური ინტელექტის მოდელების სწავლებისას. ამასთანავე უმჯობესდება ენერგოეფექტურობის მაჩვენებლები. 

ახალ სისტემაში მოცემულია 96 ამაჩქარებელი AMD Instinct MI100, რომელთაგან თითოეულს აქვს საფირმო HBM-PIM მეხსიერება processing-in-memory ფუნქციით. სისტემის შემადგენლობაში შედის 12 გამომთვლელი ნოუდი თითოეული 8 ამაჩქარებლით. ექვსი ნოუდი დაკავშირებულია InfiniBand კომუტატორებით. გამოყენებულია 16 ლინკი 200 გბ/წმ სიჩქარით. 

 

ფოტოების წყარო: Samsung 

Samsung-ის კლასტერს ვერ ვუწოდებთ რეკორდსმენს, თუმცა მისი შედეგები მეტად იმედისმომცემია: Google-ის მიერ შემუშავებულ ენის მოდელ Text-to-Test Transfer Transformer-ის (T5) სწავლებისას გამომთვლელი მეხსიერების გამოყენებამ სწავლების დრო 2.5-ჯერ შეამცირა, მოხმარებული ენერგია კი - 2.7-ჯერ. 

 

ტექნოლოგია ეკოლოგიურად სუფთაა: Samsung-ის განცხადებით HBM-PIM მეხსიერების მქონე ამგვარ კლასტერს შეუძლია წელიწადში 2100 გვტ/სთ-მდე ენერგიის დაზოგვა, რაც ნახშირბადის კვალის თვალსაზრისით ნიშნავს ემისიების შემცირებას იმავე პერიოდში 960 ათასი ტონით. იმავე რაოდენობის ნახშირორჟანგის ათვისებას 10 წელი და 16 მილიონი ხე დასჭირდება. 

 

კომპანია დარწმუნებულია მეხსიერების გამოთვლითი ტექნოლოგიის წარმატებაში და უკვე მოამზადა მახასიათებლები SYCL-ის მეშვეობით, რათა პროგრამული უზრუნველყოფის დეველოპერებს საშუალება მიეცეთ ისარგებლონ HBM-PIM-ით. Samsung ასევე აქტიურად მუშაობს PNM-ის მსგავს (processing-near-memory) კონცეფციაზე, რომელიც გამოყენებული იქნება CXL მეხსიერების მოდულებში. 

 

მოწყობილობა Samsung HBM-PIM 

Samsung დიდი ხანია მუშაობს PIM და PNM ტექნოლოგიების დანერგვაზე და გასულ წელს Hot Chips 33 კონფერენციაზეც გამოაცხადა, რომ აპირებს ყველა ტიპის მეხსიერების აღჭურვას გამოთვლითი ამაჩქარებლებით - არა მხოლოდ HBM2 / 3-ს, არამედ DDR4. / 5-საც. ამავდროულად, პირველად იქნა დემონსტრირებული HBM-PIM-ის სამუშაო ნიმუში, რომელშიც  თითოეულ ჩიპს ჰქონდა ამაჩქარებელი 1.2 Tflops FP16-წარმადობით. 

ამრიგად, PIM ტექნოლოგიის მქონე პირველმა HPC სისტემამ სრულად დაამტკიცა მეხსიერებაში გამოთვლების კონცეფციის ქმედითუნარიანობა. Samsung აპირებს PIM და PNM ტექნოლოგიების აქტიურად განვითარებას როგორც IT-ინდუსტრიაში, ისე აკადემიურ სფეროში, სუპერკომპიუტერებისა და კლასტერული სისტემების რესურსების მთავარ მომხმარებელში. 

https://tinyurl.com/2p9nk5nd