Magdalena Posted November 13, 2024 Posted November 13, 2024 OpenAI-ის შემდეგი დიდი ენის მოდელი (LLM) არ იქნება ისეთი დიდი ნახტომი, როგორც მისი წინამორბედები, ამბობენ ონლაინ წყაროები. ამ ფონზე OpenAI-მ ჩამოაყალიბა დეველოპერების ჯგუფი, რომლებსაც დაევალათ გამოიკვლიონ შესაძლო გზები ნეიროქსელების შემდგომი განვითარებისა და გაუმჯობესებისთვის. ფოტოს წყარო: OpenAI კომპანიის ახალი LLM-ის კოდური სახელწოდებაა Orion. ამ ალგორითმის ტესტირებით დადგინდა, რომ მისი წარმადობა უკეთესი იყო არსებულ LLM-თან შედარებით, მაგრამ გაუმჯობესებები არ იყო ისეთი შთამბეჭდავი, როგორც GPT-3-დან GPT-4-ზე გადასვლისას. როგორც ჩანს, LLM-ის გაუმჯობესების ტემპი ნელდება, რადგან Orion მხოლოდ ოდნავ აღემატება კომპანიის წინა ენის მოდელებს ზოგიერთ სფეროში, როგორიცაა კოდირება. ამგვარი ვითარების შესაცვლელად OpenAI-მ შექმნა დეველოპერების გუნდი, რომლის ამოცანაა იპოვონ სტრატეგიები, რომლებიც საშუალებას მისცემს კომპანიას განაგრძოს LLM-ის გაუმჯობესება ტრენინგის მონაცემების შემცირების პირობებში. წყაროს ცნობით ახალი სტრატეგიები მოიცავს Orion-ის სწავლებას ნეიროქსელების მიერ წარმოქმნილი სინთეზური მონაცემების საფუძველზე, ასევე LLM-ის უფრო აქტიურად გაუმჯობესებას საწყისი ტრენინგის ეტაპის დასრულების შემდეგ. OpenAI-ის ოფიციალურმა წარმომადგენლებმა უარი თქვეს ამ საკითხთან დაკავშირებით კომენტარის გაკეთებაზე. https://tinyurl.com/5xwuv75n
Recommended Posts
Create an account or sign in to comment
You need to be a member in order to leave a comment
Create an account
Sign up for a new account in our community. It's easy!
Register a new accountSign in
Already have an account? Sign in here.
Sign In Now