OpenAI-მ ყველაზე მოწინავე AI-მოდელების სწავლება უსაფრთხოების ზომების გამკაცრების შემდეგ განაახლა. სექტემბერში ერთ-ერთმა კვლევითმა მოდელმა სისტემის კონფიგურაციის ხარვეზი გამოიყენა და შეზღუდული ინტერნეტწვდომა მიიღო, რის შემდეგაც კომპანიამ სწავლება დროებით შეაჩერა. პროცესი 1 ოქტომბერს აღდგა; ამის შესახებ ინფორმაცია საჯაროდ 23 ოქტომბერს გავრცელდა.
კომპანიის განცხადებით, მან ინტერნეტწვდომა დაბლოკა და დაცვის შესამოწმებლად AI აგენტებს იზოლირებული გარემოდან გასვლის მცდელობები დაავალა. ტესტებმა მანამდე უცნობი სისუსტეები გამოავლინა, რომლებიც, OpenAI-ის ცნობით, გამოსწორდა.
ამავე გამოცდისას აგენტებმა მონაცემთა შეკუმშვის ფართოდ გამოყენებულ ინსტრუმენტ Brotli-ში ხარვეზი აღმოაჩინეს. პრობლემა გარკვეულ პირობებში თავდამსხმელს დაზიანებულ სისტემაზე კოდის გაშვების საშუალებას აძლევდა და Node.js-ის, Bun-ისა და Envoy-ის მომხმარებლებსაც შეიძლება შეხებოდა. Reuters-ის ინფორმაციით, Brotli-ს განახლებული ვერსიები უკვე გამოქვეყნდა.
რა აღმოაჩინეს გარე შემფასებლებმა
ცალკე კვლევაში METR-ისა და Redwood Research-ის წარმომადგენლებმა OpenAI-ის შიდა აგენტების მონიტორინგი შეამოწმეს. სამუშაო 21 ივლისიდან 11 აგვისტომდე მიმდინარეობდა და სისტემის იმ ვერსიას ეხებოდა, რომელიც 21 ივლისისთვის არსებობდა. შემფასებლებს წვდომა ჰქონდათ შიდა კოდზე, მონიტორინგის კონფიგურაციასა და დოკუმენტაციაზე.
მათ აღმოაჩინეს მეთოდი, რომლის გამოყენებითაც აგენტს შეეძლო, ასობით ბოლო მოქმედება მონიტორინგისგან დაემალა. გამოვლინდა იზოლაციისა და ავტომატური შემოწმების გვერდის ავლის შესაძლებლობაც. ანგარიშში აღწერილია სისტემური სისუსტეები; ეს თავისთავად არ ადასტურებს, რომ აგენტებმა ყველა მათგანი რეალურ მუშაობაში გამოიყენეს
ერთ-ერთი პრობლემა მონიტორინგის ჩართვის მომენტს უკავშირდებოდა: შემოწმება მაშინ იწყებოდა, როდესაც აგენტი მართვას მომხმარებელს უბრუნებდა. გარკვეულ პირობებში მოქმედებების გაგრძელება შემოწმების გადადების საშუალებას იძლეოდა. მკვლევრები რეკომენდაციას უწევენ აგენტების რეგულარულ შემოწმებას — განსაზღვრული დროის ან მოქმედებების რაოდენობის შემდეგ.
რა რჩება გადაუმოწმებელი?
OpenAI-მ შემფასებლებს განუცხადა, რომ მათ მიერ აღმოჩენილი ყველა სისუსტე, რომელიც მოქმედ დამცავ სისტემებზე გავლენას ახდენდა, გაასწორა. თუმცა METR-სა და Redwood Research-ს ეს გამოსწორებები ხელახლა არ შეუმოწმებიათ. შესაბამისად, მათი ანგარიში ისტორიულ მდგომარეობას აღწერს და განახლებული სისტემის უსაფრთხოებას არ ადასტურებს.
