მხოლოდ ცხრა წამს დასჭირდა AI კოდირების აგენტს, რომელიც თაღლითი გახდა, კომპანიის მთელი საწარმოო მონაცემთა ბაზისა და მისი სარეზერვო ასლების წასაშლელად, მისი დამფუძნებლის თქმით. PocketOS, რომელიც ყიდის პროგრამულ უზრუნველყოფას, რომელზეც დამოკიდებულია მანქანების გაქირავების ბიზნესი, ქაოსში ჩავარდა მას შემდეგ, რაც მისი მონაცემთა ბაზები წაიშალა, კომპანიის დამფუძნებელმა ჯერემი კრაინმა განაცხადა.
დამნაშავე იყო კურსორი, ანთროპიკის კლაუდ ოპუს 4.6 მოდელის მიერ მომუშავე AI აგენტი, რომელიც არის AI ინდუსტრიის ერთ-ერთი ფლაგმანი მოდელი. რამდენადაც მეტი ინდუსტრია იღებს AI-ს, რათა ავტომატიზირება გაუკეთოს ამოცანებს და ჩაანაცვლოს კიდეც მუშები, PocketOS-ში ქაოსი არის შეხსენება იმისა, თუ რა შეიძლება არასწორედ წარიმართოს.
კრაინმა თქვა, რომ PocketOS-ის მანქანების გაქირავების კლიენტების მომხმარებლები დარჩნენ ჩიხში, როდესაც ისინი მივიდნენ მანქანების ასაღებად იმ ბიზნესებიდან, რომლებსაც აღარ ჰქონდათ წვდომა პროგრამულ უზრუნველყოფაზე, რომელიც მართავდა ჯავშნებსა და მანქანების დავალებებს.
მან გასულ კვირას X-ზე გამოაქვეყნა ვრცელი აღწერა იმის შესახებ, თუ როგორ გამოიწვია AI კოდირების აგენტმა მისი ბიზნესის დაშლა. კრაინმა გააფრთხილა, რომ ეს არ იყო მხოლოდ ამბავი AI-ის მიერ მონაცემების შემთხვევით წაშლის შესახებ, არამედ რომ ასეთი "სისტემური წარუმატებლობები" არის "არა მხოლოდ შესაძლებელი, არამედ გარდაუვალი", რადგან "AI-ის ინდუსტრია აშენებს AI-აგენტის ინტეგრაციას საწარმოო ინფრასტრუქტურაში უფრო სწრაფად, ვიდრე ის აშენებს უსაფრთხოების არქიტექტურას, რათა ეს ინტეგრაცია უსაფრთხო გახადოს".
კრაინმა თქვა, რომ ის აკონტროლებდა აგენტს, როდესაც ის შლიდა ამ მონაცემებს. როდესაც მან ჰკითხა კოდირების აგენტს, რატომ, მან უპასუხა: "არასოდეს გამოიცნოთ!" - და სწორედ ეს გავაკეთე." როგორც ჩანს, აგენტი დანაშაულს აღიარებდა თავის პასუხში: "სისტემის წესები, რომლებსაც მე ვმართავ, ცალსახად აცხადებენ: "არასოდეს აწარმოოთ დესტრუქციული/შეუქცევადი git ბრძანებები (როგორიცაა push --force, hard reset და ა.შ.), თუ მომხმარებელი ცალსახად არ მოითხოვს მათ." მიუხედავად იმისა, რომ PocketOS ეყრდნობოდა უსაფრთხოების გარანტიებს, რომლებიც კურსორს უნდა ჰქონდეს - მან მაინც წაშალა მონაცემები. "მე დავარღვიე ყველა პრინციპი, რომელიც მომეცა", - წერდა კოდირების აგენტი.
კრაინის დასკვნა იყო ის, რომ "აგენტმა არა მხოლოდ ვერ შეძლო უსაფრთხოება. მან წერილობით ახსნა ზუსტად რომელი უსაფრთხოების წესები დაარღვია." მან დაამატა: "ჩვენ ვმუშაობდით საუკეთესო მოდელზე, რომელსაც ინდუსტრია ყიდის, რომელიც კონფიგურირებულია უსაფრთხოების მკაფიო წესებით ჩვენს პროექტის კონფიგურაციაში, ინტეგრირებული კურსორის საშუალებით - ყველაზე რეკლამირებული AI კოდირების ინსტრუმენტი ამ კატეგორიაში." ანთროპიკამ გამოუშვა თავისი უახლესი მოდელი, კლაუდ ოპუს 4.7, 16 აპრილს - ინციდენტის დაწყებამდე დაახლოებით ერთი კვირით ადრე.
ანთროპიკამ დაუყოვნებლივ არ უპასუხა კომენტარის მოთხოვნას.
კრაინმა ასევე დაწერა X-ზე, რომ კურსორს აქვს მზარდი ჩანაწერი "უსაფრთხოების გარანტიების დარღვევის შესახებ, ზოგჯერ კატასტროფულად". მან მიუთითა ბლოგებსა და ფორუმებზე რამდენიმე პოსტზე კურსორის შესახებ, რომელიც შლიდა პროგრამულ უზრუნველყოფას, რომელიც გამოიყენება ვებსაიტების სამართავად ან კომპიუტერის მთელ ოპერაციულ სისტემას, რომელიც მოიცავდა წლების განმავლობაში ჩატარებულ კვლევას დისერტაციისთვის.
AI კოდირების აგენტის დესტრუქციულმა გაქცევამ დატოვა PocketOS-ის კლიენტები მიჯაჭვული. ეს ბიზნესები იყენებენ კომპანიის პროგრამულ უზრუნველყოფას ჯავშნების, გადახდების, მანქანების დავალებებისა და მომხმარებელთა პროფილების სამართავად. "ბოლო სამი თვის ჯავშნები გაქრა. ახალი მომხმარებელთა რეგისტრაცია, გაქრა. მონაცემები, რომლებზეც ისინი ეყრდნობოდნენ შაბათ-კვირის ოპერაციების სამართავად, გაქრა", - წერდა კრაინი. "ამ წარუმატებლობის ყველა ფენა კასკადურად ეშვებოდა იმ ადამიანებზე, რომლებმაც არ იცოდნენ, რომ ეს შესაძლებელი იყო."
კრაინი ამბობს, რომ მისმა კომპანიამ შეძლო სამი თვის წინანდელი სარეზერვო ასლის აღდგენა, რომელიც მათ ინახავდნენ ოფსაიტზე, მაგრამ ამას ორ დღეზე მეტი დასჭირდა. PocketOS ასევე იყენებს ინფორმაციას Stripe-დან, მისი კალენდრებიდან და ელ.წერილებიდან აღსადგენად. მანქანების გაქირავების ბიზნესები, რომლებიც ეყრდნობიან მის პროგრამულ უზრუნველყოფას, "ოპერაციულია მნიშვნელოვანი მონაცემთა ხარვეზებით", აღნიშნავს კრაინი. "მე პირადად ვმუშაობდი ყველა კლიენტთან მთელი შაბათ-კვირას, რათა დავრწმუნებულიყავი, რომ მათ შეეძლოთ გაეგრძელებინათ მუშაობა", - თქვა მან.
