Google-მა დაიწყო ხელოვნური ინტელექტის მიერ გენერირებული ტექსტების მარკირება

[Magdalena]

Google-მა წარმოადგინა გენერაციული AI-მოდელების მიერ შექმნილი ტექსტების მონიშვნისა და ამოცნობის ტექნოლოგია. ინსტრუმენტი, სახელად SynthID Text, არ იმოქმედებს კონტენტის გენერირების ხარისხსა და სიჩქარეზე და სრულიად უფასოდ იქნება ხელმისაწვდომი დეველოპერებისა და კომპანიებისთვის. 

 

ფოტოს წყარო: Copilot 

SynthID ტექსტი შემდეგნაირად მუშაობს: ტექსტის გენერირებისას მოდელი პროგნოზირებს, თუ რომელი "ტოკენი" (სიმბოლო ან სიტყვა) იქნება შემდეგი თითოეული ტოკენის გამოჩენის ალბათობის მიხედვით და დამატებით ინფორმაციას ამატებს ამ ალბათობების განაწილებას მორგებული სიმბოლოების მოდულირებით. საბოლოო ჯამში ისინი ქმნიან „წყლის ნიშანს“ (watermark), რომელიც გვეხმარება იმის დადგენაში, შეიქმნა თუ არა ტექსტი ხელოვნური ინტელექტის მიერ. „მოდელის მიერ შერჩეული სიტყვების ალბათობების საბოლოო ნიმუში, შეცვლილი ალბათობის შეფასებებთან ერთად, ჩაითვლება წყლის ნიშად“, - განმარტავს კომპანია ბლოგში. 

Google ამტკიცებს, რომ SynthID Text, რომლის ინტეგრირება Gemini-ში მოხდა გაზაფხულზე, გავლენას არ ახდენს ხარისხზე, სიზუსტესა და გენერაციის სიჩქარეზე. თუმცა, მოჭრილი, პერიფრაზირებული ან შეცვლილი ტექსტი შეიძლება ოდნავ უარესად დამუშავდეს. რაც შეეხება ფაქტებს, „პასუხები კითხვებზე, რომლებიც ძალიან სპეციფიკური და ცალსახაა, იძლევა ნაკლებ შესაძლებლობას - მოახდინოს ტოკენების განაწილება ფაქტობრივი სიზუსტის კომპრომისის გარეშე“. 

აღსანიშნავია, რომ Google არ არის ერთადერთი კომპანია, რომელიც მუშაობს ხელოვნური ინტელექტის მიერ გენერირებული ტექსტის მარკირების ტექნოლოგიაზე. მაგალითად, OpenAI ასევე ავითარებდა მეთოდებს წყლის ნიშნების გამოყენებისთვის, მაგრამ მათი გაშვება გადაიდო ტექნიკური დაბრკოლებების და კომერციული მოსაზრებების გამო. 

თუ ტექნოლოგია ფართოდ იქნა მიღებული, მისი გამოყენება შესაძლებელი იქნება არაზუსტი, მაგრამ სულ უფრო პოპულარული „AI დეტექტორების“ წინააღმდეგ, რომლებიც შეცდომით ახდენენ სტუდენტური ნაშრომების ან ესეების იდენტიფიცირებას, როგორც ნეიროქსელის მიერ გენერირებულს. როგორც TechCrunch წერს, „საკითხი ღია რჩება“. თუმცა, ზოგიერთი ქვეყანა უკვე იღებს ზომებს. მაგალითად, ჩინეთის ხელისუფლებამ შემოიღო ხელოვნური ინტელექტის მიერ გენერირებული კონტენტის სავალდებულო მარკირება და კალიფორნიის შტატი (აშშ) აპირებს მის მაგალითს მიბაძოს. 

https://tinyurl.com/2wez5wj4