Magdalena Posted April 29, 2023 Posted April 29, 2023 NVIDIA-მ წარადგინა გადაწყვეტილება NeMo Guardrails ღია კოდით, რომლის მიზანია უზრუნველყოს ხელოვნურ ინტელექტზე დამყარებული აპლიკაციების უსაფრთხოება - აღმოფხვრას ბოტებიდან ე.წ. ჰალუცინაციები (მცდარი მტკიცებები), შეზღუდოს აკრძალული თემების განხილვისა და ტოქსიკური ენით ლაპარაკისგან და არასასურველი ქმედებების შესრულებისგან. NVIDIA NeMo Guardrails შექმნილია ყველა დიდ ენობრივ მოდელთან (LLM) სამუშაოდ, როგორიცაა OpenAI-ის ChatGPT. გადაწყვეტილება საშუალებას აძლევს დეველოპერებს დააკონფიგურირონ LLM-ზე დაფუძნებული აპლიკაციები, რათა იყოს უსაფრთხო და დარჩეს კომპანიის კომპეტენციის ფეროში. NeMo Guardrails მოქმედებს, როგორც შუამავალი ფენა მომხმარებელსა და LLM-ს ან ხელოვნური ინტელექტის სხვა ხელსაწყოს შორის და ხელს უშლის არასწორი შედეგების ან მინიშნებების მიცემას. ფოტოს წყარო: NVIDIA NeMo Guardrails დეველოპერებს საშუალებას მისცემს დააყენონ სამი ტიპის შეზღუდვა: თემატური შეზღუდვები, რომლებიც აღმოფხვრის აპლიკაციის გადახრას არასასურველ სფეროში, უზრუნველყოფს საუბრის წარმართვას განსაზღვრული თემის ფარგლებში. მაგალითად, ბოტს, რომელიც განკუთვნილია მომხმარებლებს პროდუქტებზე გასცეს პასუხები, სისტემა ხელს შეუშლის უპასუხოს ამინდის შესახებ. უსაფრთხოების შეზღუდვა, რომელიც გარანტიას იძლევა, რომ LLM არ გასცემს დეზინფორმაციას და არ გამოიწვევს ნეგატიურ რეაქციას. შესაძლებელია გაიფილტროს არასასურველი გამონათქვამები და უზრუნველყოფილ იქნას მხოლოდ სანდო წყაროებზე დაყრდნობა. დაცვითი შეზღუდვები ხელს შეუშლის LLM-ს ზიანისმომტანი კოდის შესრულებას და უზრუნველყოფს ბოტის კავშირს მხოლოდ დაშვებულ სიაში შემავალ გარე აპლიკაციებთან. როგორც კომპანიამ აღნიშნა, ასეთი ზომები „ხელს შეუწყობს მძლავრი უსაფრთხოების მოდელის უზრუნველყოფას და LLM-ზე დამყარებული თავდასხმების რისკს ამცირებს მათი აღმოჩენისთანავე“. NVIDIA-მ NeMo Guardrails ჩართო პლატფორმა NVIDIA NeMo-ში, რომელიც უზრუნველყოფს ყველა აუცილებელ ინსტრუმენტს ენობრივი მოდელების სწავლებისა და კონფიგურირებისთვის კომპანიის საკუთარი მონაცემების გამოყენებით. NeMo-ს ინსტრუმენტების დიდი ნაწილი უკვე ხელმისაწვდომია GitHub-ზე. კომპანიებს ასევე შეუძლიათ მისი მირება სრული და მხარდაჭერილი პაკეტით, რომელიც პლატფორმა NVIDIA AI Enterprise-ის შემადგენლობაში შედის. https://tinyurl.com/mjmm8znx Quote
Recommended Posts
Join the conversation
You can post now and register later. If you have an account, sign in now to post with your account.