AI-ის აგენტმა ინჟინერს დაავალა ისეთი მოქმედებების შესრულება, რამაც Meta-ს დიდი რაოდენობით სენსიტიური მონაცემები გამოააშკარავა მისი თანამშრომლებისთვის, რაც არის უახლესი მაგალითი იმისა, თუ როგორ იწვევს AI არეულობას დიდ ტექნიკურ კომპანიებში.
გაჟონვა, რომელიც Meta-მ დაადასტურა, მოხდა მაშინ, როდესაც თანამშრომელმა სთხოვა რჩევა საინჟინრო პრობლემაზე შიდა ფორუმზე. AI აგენტმა უპასუხა გადაწყვეტით, რომელიც თანამშრომელმა განახორციელა - რამაც გამოიწვია დიდი რაოდენობით სენსიტიური მომხმარებლისა და კომპანიის მონაცემების გამოაშკარავება მისი ინჟინრებისთვის ორი საათის განმავლობაში.
"მომხმარებლის მონაცემები არასწორად არ დამუშავებულა", - თქვა Meta-ს წარმომადგენელმა და მათ ხაზი გაუსვეს, რომ ადამიანს ასევე შეეძლო არასწორი რჩევის მიცემა. ინციდენტმა, რომელიც პირველად The Information-მა იტყობინება, გამოიწვია უსაფრთხოების მთავარი შიდა განგაში Meta-ში, რომელიც კომპანიამ განაცხადა, რომ არის იმის მაჩვენებელი, თუ რამდენად სერიოზულად იღებს ის მონაცემთა დაცვას.
ეს დარღვევა არის რამდენიმე ბოლოდროინდელი გახმაურებული ინციდენტის ერთ-ერთი მაგალითი, რომელიც გამოწვეულია აშშ-ს ტექნიკურ კომპანიებში AI აგენტების მზარდი გამოყენების შედეგად. გასულ თვეში, Financial Times-ის მოხსენებამ განაცხადა, რომ Amazon-მა განიცადა მინიმუმ ორი გათიშვა, რომელიც დაკავშირებული იყო მისი შიდა AI ინსტრუმენტების დანერგვასთან.
ამაზონის ექვსზე მეტმა თანამშრომელმა მოგვიანებით ესაუბრა Guardian-ს იმის შესახებ, თუ როგორ აჩქარებულად აერთიანებდა კომპანია AI-ს თავისი სამუშაოს ყველა ელემენტში, რაც, მათი თქმით, იწვევდა აშკარა შეცდომებს, დაუდევარ კოდს და პროდუქტიულობის შემცირებას.
ტექნოლოგია, რომელიც საფუძვლად უდევს ყველა ამ ინციდენტს, აგენტი AI, ბოლო თვეების განმავლობაში სწრაფად განვითარდა. დეკემბერში ანთროპიკის AI კოდირების ხელსაწყოს, კლაუდ კოდს, მოჰყვა ფართო ხმაური მისი თეატრის ბილეთების დამოუკიდებლად დაჯავშნის, პირადი ფინანსების მართვისა და მცენარეების გაზრდის უნარის გამო.
ამის შემდეგ იყო OpenClaw-ის, ვირუსული AI პირადი ასისტენტის მოსვლა, რომელიც მუშაობდა აგენტებზე, როგორიცაა ClaudeCode, მაგრამ შეეძლო სრულიად დამოუკიდებლად ფუნქციონირება - მაგალითად, მილიონობით დოლარის ღირებულების კრიპტოვალუტის ვაჭრობა ან მომხმარებელთა ელ.ფოსტის მასობრივად წაშლა - რამაც გამოიწვია ხმაურიანი საუბარი AGI-ს, ანუ ხელოვნური ზოგადი ინტელექტის, ანუ ხელოვნური ინტელექტის გაჩენაზე, რომელიც არის ზოგადი ტერმინი ხელოვნური ინტელექტისთვის, რომელსაც შეუძლია შეცვალოს ადამიანები ამოცანების ფართო სპექტრისთვის.
მომდევნო კვირებში საფონდო ბირჟები მერყეობდა იმის შიშით, რომ AI აგენტები გაანადგურებენ პროგრამული უზრუნველყოფის ბიზნესს, შეცვლიან ეკონომიკას და ჩაანაცვლებენ ადამიანურ მუშაკებს.
ტარეკ ნსეირმა, საკონსულტაციო კომპანიის თანადამფუძნებელმა, რომელიც ფოკუსირებულია იმაზე, თუ როგორ იყენებენ ბიზნესები AI-ს, თქვა, რომ ეს ინციდენტები აჩვენებდა, რომ Meta და Amazon იყვნენ "ექსპერიმენტულ ფაზებში" აგენტი AI-ის დანერგვისას.
"ისინი არ დგანან უკან ამ რაღაცებისგან და არ აკეთებენ რეალურ რისკის შეფასებას. თუ თქვენ დააყენებთ უმცროს სტაჟიორს ამ საკითხზე, თქვენ არასოდეს მისცემთ ამ უმცროს სტაჟიორს წვდომას თქვენს კრიტიკულ სერიოზულობის პირველ HR მონაცემებზე", - თქვა მან.
"დაუცველობა ძალიან, ძალიან აშკარა იქნებოდა Meta-სთვის რეტროსპექტივაში, თუ არა იმ მომენტში. და რასაც ვიტყვი და ვიტყვი არის ეს არის Meta, რომელიც ექსპერიმენტებს ატარებს მასშტაბში. ეს არის Meta, რომელიც გაბედულია."
ჯეიმსონ ო'რილმა, უსაფრთხოების სპეციალისტმა, რომელიც ფოკუსირებულია შეტევითი AI-ის შექმნაზე, თქვა, რომ AI აგენტები შემოჰქონდათ შეცდომის გარკვეულ ტიპს, რომელსაც ადამიანები არ უშვებდნენ - და ეს შეიძლება ხსნიდეს Meta-ში მომხდარ ინციდენტს.
ადამიანს აქვს დავალების "კონტექსტი" - იმპლიციტური ცოდნა იმისა, რომ, მაგალითად, არ უნდა აანთოს დივანი ოთახის გასათბობად, ან წაშალოს იშვიათად გამოყენებული, მაგრამ გადამწყვეტი ფაილი, ან მიიღოს ისეთი ქმედება, რომელიც გამოავლენს მომხმარებლის მონაცემებს ქვემოთ.
AI აგენტებისთვის ეს უფრო რთულია. მათ აქვთ "კონტექსტის ფანჯრები" - ერთგვარი სამუშაო მეხსიერება, რომელშიც ისინი ატარებენ ინსტრუქციებს, მაგრამ ეს იშლება, რაც იწვევს შეცდომას.
"ადამიანი ინჟინერი, რომელიც ორ წელიწადში მუშაობდა, დადის დაგროვილი გაგებით, თუ რა არის მნიშვნელოვანი, რა იშლება 2 საათზე, რა არის შეფერხების ღირებულება, რომელი სისტემები ეხება მომხმარებლებს. ეს კონტექსტი ცხოვრობს მათში, მათ გრძელვადიან მეხსიერებაში, მაშინაც კი, თუ ის არ არის წინა პლანზე", - თქვა ო'რილმა.
"აგენტს, მეორეს მხრივ, ეს არ აქვს, თუ არ ჩასვამთ მოთხოვნაში და მაშინაც კი, ის იწყებს გაქრობას, თუ ის არ არის ტრენინგის მონაცემებში."
ნსეირმა თქვა: "აუცილებლად იქნება მეტი შეცდომა."
