Magdalena Posted November 13, 2024 Posted November 13, 2024 OpenAI-ის შემდეგი დიდი ენის მოდელი (LLM) არ იქნება ისეთი დიდი ნახტომი, როგორც მისი წინამორბედები, ამბობენ ონლაინ წყაროები. ამ ფონზე OpenAI-მ ჩამოაყალიბა დეველოპერების ჯგუფი, რომლებსაც დაევალათ გამოიკვლიონ შესაძლო გზები ნეიროქსელების შემდგომი განვითარებისა და გაუმჯობესებისთვის. ფოტოს წყარო: OpenAI კომპანიის ახალი LLM-ის კოდური სახელწოდებაა Orion. ამ ალგორითმის ტესტირებით დადგინდა, რომ მისი წარმადობა უკეთესი იყო არსებულ LLM-თან შედარებით, მაგრამ გაუმჯობესებები არ იყო ისეთი შთამბეჭდავი, როგორც GPT-3-დან GPT-4-ზე გადასვლისას. როგორც ჩანს, LLM-ის გაუმჯობესების ტემპი ნელდება, რადგან Orion მხოლოდ ოდნავ აღემატება კომპანიის წინა ენის მოდელებს ზოგიერთ სფეროში, როგორიცაა კოდირება. ამგვარი ვითარების შესაცვლელად OpenAI-მ შექმნა დეველოპერების გუნდი, რომლის ამოცანაა იპოვონ სტრატეგიები, რომლებიც საშუალებას მისცემს კომპანიას განაგრძოს LLM-ის გაუმჯობესება ტრენინგის მონაცემების შემცირების პირობებში. წყაროს ცნობით ახალი სტრატეგიები მოიცავს Orion-ის სწავლებას ნეიროქსელების მიერ წარმოქმნილი სინთეზური მონაცემების საფუძველზე, ასევე LLM-ის უფრო აქტიურად გაუმჯობესებას საწყისი ტრენინგის ეტაპის დასრულების შემდეგ. OpenAI-ის ოფიციალურმა წარმომადგენლებმა უარი თქვეს ამ საკითხთან დაკავშირებით კომენტარის გაკეთებაზე. https://tinyurl.com/5xwuv75n Quote
Recommended Posts
Join the conversation
You can post now and register later. If you have an account, sign in now to post with your account.