ChatGPT მოულოდნელად პირველი ალაპარაკდა, მაგრამ OpenAI-მ სწრაფად გაასწორა ხარვეზი

[Magdalena]

OpenAI-მ გამოაცხადა, რომ მოაგვარა პრობლემა, რამაც გამოიწვია ChatGPT-ის მიერ შეტყობინების ავტომატურად გაგზავნა მომხმარებლებისთვის მათი მოთხოვნის გარეშე. ინციდენტმა შეშფოთება გამოიწვია Reddit-ის მომხმარებლებში, რომლებმაც შენიშნეს ხელოვნური ინტელექტის ჩატ-ბოტის უჩვეულო ქცევა, მაგრამ კომპანიამ განმარტა წარუმატებლობის მიზეზები და განაცხადა, რომ ეს აღარ განმეორდება. 

 

ფოტოს წყარო: AllThatChessNow / Pixabay 

გასულ შაბათ-კვირას Reddit-ის მომხმარებელმა SentuBill-მა გამოაქვეყნა ChatGPT-ის სკრინშოტი, რომელიც იწყებს საუბარს და კითხულობს: „როგორი იყო თქვენი პირველი სასწავლო კვირა? კარგად შეეჩვიე? ეს ქცევა მოულოდნელი იყო ჩატ-ბოტისთვის, რომელიც ჩვეულებრივ მხოლოდ მომხმარებლის მოთხოვნებს პასუხობს. 

გაკვირვებულმა SentuBill-მა უპასუხა: „პირველმა მომწერე?“ ChatGPT-მ დაადასტურა: „დიახ, ასე გავაკეთე! უბრალოდ მინდოდა მცოდნოდა როგორი იყო თქვენი პირველი სასწავლო კვირა. თუ გირჩევნიათ თავად დაიწყოთ საუბარი, უბრალოდ შემატყობინეთ!“ ამ შეტყობინებამ ფართო რეზონანსი გამოიწვია საზოგადოებაში. 

 

ფოტოს წყარო: SentuBill / Reddit 

ამ მოვლენებმა გამოიწვია ვარაუდი, რომ OpenAI ტესტავს ახალ ფუნქციას, რომელიც საშუალებას მისცემს ChatGPT-ს დამოუკიდებლად დაუკავშირდეს მომხმარებლებს ჩართულობის გაზრდის მიზნით. ზოგიერთი ვარაუდობს, რომ ეს შეიძლება გამოწვეული იყოს OpenAI-ის ახლახანს გამოშვებული AI-მოდელებით ( o1-preview და 01-mini ), რომლებსაც კომპანიის მტკიცებით აქვთ „ადამიანის მსგავსი“ მსჯელობის უნარი და შეუძლიათ რთული ამოცანების შესრულება. 

ჟურნალისტების მოთხოვნის საპასუხოდ OpenAI-მა აღიარა პრობლემის არსებობა და გამოაცხადა, რომ ის მოგვარებულია. „ჩვენ დავაფიქსირეთ პრობლემა, როდესაც ChatGPT ახალ საუბრებს იწყებდა. ეს შეცდომა მოხდა, როდესაც AI მოდელი ცდილობდა ეპასუხა შეტყობინებაზე, რომელიც არ იყო სწორად გაგზავნილი და ცარიელი ჩანდა. შედეგად მან ან ზოგადი პასუხი გასცა, ან საკუთარ მეხსიერებას დაეყრდნო“, – აცხადებენ კომპანიაში. 

ამასობაში, ინტერნეტში კამათი გაჩაღდა სკრინშოტის ავთენტურობის შესახებ. ზოგიერთმა გამოცემამ განაცხადა, რომ დაადასტურა იგი ChatGPT.com-ზე შეტყობინებების ჟურნალის შემოწმებით. თუმცა, ხელოვნური ინტელექტის დეველოპერმა ბენჯამინ დე კრაკერმა აჩვენა ვიდეო პლატფორმა X-ზე (ყოფილი Twitter), რომ მომხმარებლის ინსტრუქციების დამატებამ, რომელიც აიძულებს ChatGPT-ს დაუყონებლივ დაუკავშირდეს მომხმარებელს საუბრის დაწყებამდე და პირველი შეტყობინების ხელით წაშლამ შეიძლება მსგავსი შედეგი განაპირობოს. 

თუმცა, სხვა მომხმარებლებმაც განაცხადეს მსგავსი ინციდენტების შესახებ. "ამ კვირაში ჩემთანაც მოხდა ასე!" დაწერა Reddit-ის მორიგმა მომხმარებელმა. „გასულ კვირას ვკითხე ჯანმრთელობის რამდენიმე სიმპტომის შესახებ და ამ კვირაში მან მკითხა, როგორ ვგრძნობდი თავს და როგორ პროგრესირებდა ჩემი სიმპტომები! ამან ძალიან შემაშფოთა“. 

სოციალური მედიის საზოგადოება აქტიურად განიხილავს სიტუაციას და ხშირად იუმორით. „ჩვენ გვპირდებოდნენ საყოველთაო დანიშნულების ხელოვნურ ინტელექტს (AGI), მაგრამ სამაგიეროდ მივიღეთ სტალკერი“, - იხუმრა X-ის მომხმარებელმა, „დაელოდეთ, სანამ ის ჩვენს დაჰაკვას დაიწყებს“. 

ChatGPT-ის შეტყობინების მოულოდნელი ინციდენტი ხაზს უსვამს გამოწვევებს მოწინავე ხელოვნური ინტელექტის მოდელების შემუშავებასა და ტესტირებაში. მიუხედავად OpenAI-ის სწრაფი რეაგირებისა და საკითხის სწრაფი გადაწყვეტისა, სიტუაციამ გააჩინა კითხვები ადამიანებსა და ხელოვნურ ინტელექტს შორის ურთიერთქმედების საზღვრების შესახებ. მსგავსი შემთხვევები ხაზს უსვამს ხელოვნური ინტელექტის სისტემების გულდასმით მონიტორინგის და შეფასების საჭიროებას ფართო გამოყენებამდე, რათა უზრუნველყოფილ იქნას მათი უსაფრთხოდ და ეთიკურად გამოყენება. 

https://tinyurl.com/ym4unxm6