AMD-მ გამოუშვა თავისი პირველი ხელოვნური ინტელექტის ენის მოდელი - AMD-135M

[Magdalena]

რადგან AMD ცდილობს პოზიციის გამყარებას ხელოვნური ინტელექტის ბაზარზე, იგი არა მხოლოდ აწარმოებს აპარატურულ უზრუნველყოფას ამ საჭიროებისთვის, არამედ გადაწყვიტა ენობრივი მოდელების შემუშავება. ამის შედეგია პირველი მცირე ენის მოდელ AMD-135M-ის ანონსი. 

 

ფოტოს წყარო: AMD 

ახალი მცირე ენის მოდელი AMD-135M ეკუთვნის Llama-ს სერიას და მიზნად ისახავს კერძო ბიზნესში გამოყენებას. გაურკვეველია, აქვს თუ არა AMD-ის ახალ AI-მოდელს რაიმე კავშირი კომპანიის მიერ სტარტაპ Silo AI-ის ბოლო შესყიდვასთან (გარიგება ჯერ არ არის დასრულებული და ჯერ არ არის დამტკიცებული სხვადასხვა მარეგულირებლის მიერ, ასე რომ, ალბათ, არა). თუმცა, ეს არის მკაფიო ნაბიჯი AMD-ის მიერ საკუთარი აღჭურვილობით წინასწარ მომზადებული მოდელის მეშვეობით მომხმარებლის სპეციფიკური მოთხოვნილებების დაკმაყოფილებისკენ. 

AMD-ის ენის მოდელის უპირატესობა ის არის, რომ იგი იყენებს ე.წ. სპეკულაციურ დეკოდირებას. ეს უკანასკნელი არის უფრო პატარა „ნიმუშის მოდელი“, რომელიც წარმოქმნის რამდენიმე კანდიდატ-ტოკენს ერთი წინა სვლით. შემდეგ ტოკენები გადაეცემა უფრო დიდ და უფრო ზუსტ „სამიზნე მოდელს“, რომელიც დაამოწმებს ან შეასწორებს მათ. ერთი მხრივ, ეს მიდგომა საშუალებას იძლევა შეიქმნას რამდენიმე ტოკენი ერთდროულად, მაგრამ, მეორე მხრივ,  იწვევს ენერგომოხმარების გაზრდას მონაცემთა გადაცემის გაზრდის გამო. 

AMD-ის ენის მოდელი წარმოდგენილია ორ ვერსიაში: AMD-Llama-135M და AMD-Llama-135M-code. თითოეული მათგანი ოპტიმიზებულია კონკრეტული ამოცანებისთვის წარმადობის გაზრდაზე სპეკულაციური დეკოდირების ტექნოლოგიის გამოყენებით. AMD-Llama-135M საბაზო მოდელის სწავლება მოხდა ნულიდან 670 მილიარდი ტოკენის საერთო მონაცემების გამოყენებით. ამ პროცესს ექვსი დღე დასჭირდა ოთხ 8-არხიანი AMD Instinct MI250-ზე დაფუძნებული ნოუდის გამოყენებით. 

მოდელი AMD-Llama-135M- code გაუმჯობესდა დამატებითი ტრენინგის გამო დამატებით 20 მილიარდი ტოკენის გამოყენებით და იგი სპეციალურად არის ორიენტირებული პროგრამული კოდის დაწერაზე. მოდელის დამატებით ტრენინგს ოთხი დღე დასჭირდა AMD-ის აპარატურის იმავე ნაკრების გამოყენებით. კომპანიას მიაჩნია, რომ მისი მოდელების შემდგომი ოპტიმიზაცია განაპირობებს მათი წარმადობის და ეფექტურობის შემდგომ გაუმჯობესებას. 

https://tinyurl.com/2tz98aep