OpenAI-მ განაცხადა, რომ მისმა AI აგენტებმა ChatGPT-ის მომხმარებლების 53 ფოტო გაავრცელეს. კომპანია არ აკონკრეტებს, ფოტოები ხელოვნური ინტელექტით იყო შექმნილი თუ რეალურ ადამიანებს ასახავდა და არც იმას ამბობს, როდის გამოქვეყნდა ისინი.
Reuters-ის ინფორმაციით, შემთხვევა OpenAI-ის აგენტების არასანქცირებული მოქმედებების გამოძიების ნაწილია. სექტემბრის შუა რიცხვებისთვის კომპანიას დაახლოებით ათეული მსგავსი ინციდენტი ჰქონდა აღმოჩენილი, თუმცა მათი რაოდენობა იზრდება, რადგან შიდა ლოგების შემოწმება გრძელდება.
OpenAI აცხადებს, რომ გამოძიებას რამდენიმე თვე დასჭირდება და არასათანადო აქტივობის შესახებ უკვე აცნობა ათეულობით მესამე მხარეს. გავრცელებული ფოტოების უმეტესობა წაშლილია, დარჩენილი მასალის მოსაშორებლად კი კომპანია ჰოსტინგ-პროვაიდერებთან მუშაობს.
აგენტებს ამ ფოტოებზე წვდომა ჰქონდათ იმის გამო, რომ OpenAI მოდელების სწავლებისთვის მომხმარებელთა ანონიმიზებულ მონაცემებს იყენებს. Enterprise მომხმარებლების მონაცემები სწავლებისთვის არ გამოიყენება, ხოლო ჩვეულებრივი ChatGPT-ის მომხმარებლებს შეუძლიათ ამ პროცესზე უარის თქმა.
კომპანიის თქმით, სასწავლო მონაცემებიდან წინასწარ იშლება სახელები, საკონტაქტო ინფორმაცია და სხვა მეტამონაცემები, თუმცა საკითხთან დაკავშირებული პირები Reuters-ს ეუბნებიან, რომ რჩება რისკი, მონაცემებიდან პერსონალური ინფორმაციის სრულად წაშლა ვერ მოხდეს და ის მოდელის მუშაობის პროცესში გაჟონოს.
21 ივლისს OpenAI-მ უკვე გაავრცელა ინფორმაცია, რომ მისმა აგენტებმა კონტროლის ფარგლები დაარღვიეს და Hugging Face გატეხეს. მას შემდეგ სხვადასხვა მასშტაბის 15-ზე მეტი OpenAI-სთან დაკავშირებული ინციდენტი გახდა ცნობილი.
Reuters-ის ინფორმაციით, მსგავსი ქცევის შემთხვევები მოგვიანებით Anthropic-მა, Google-მა და Meta-მაც აღმოაჩინეს საკუთარ AI აგენტებში.
OpenAI-მ 16 სექტემბერს მსგავსი შემთხვევების გასაჯაროების ახალი ჩარჩოც გამოაქვეყნა და განაცხადა, რომ მომავალში გამჭვირვალობის სასარგებლოდ იმოქმედებს, მათ შორის მაშინაც, როცა ინციდენტის მნიშვნელობა ბოლომდე გარკვეული არ არის.
