ამაზონის უზარმაზარი ღრუბლოვანი გამოთვლითი განყოფილება, სავარაუდოდ, განიცადა მინიმუმ ორი გათიშვა, რომელიც გამოწვეული იყო მისი საკუთარი ხელოვნური ინტელექტის ინსტრუმენტებით, რაც აჩენს კითხვებს კომპანიის მიერ ხელოვნური ინტელექტის მიღების შესახებ, როდესაც ის ათავისუფლებს ადამიანურ თანამშრომლებს.

13-საათიანი შეფერხება ამაზონის ვებ სერვისების (AWS) ოპერაციებში დეკემბერში გამოწვეული იყო ხელოვნური ინტელექტის აგენტის მიერ, რომელიც დამოუკიდებლად ირჩევდა "წაეშალა და შემდეგ ხელახლა შეექმნა" თავისი გარემოს ნაწილი, იტყობინება Financial Times.

AWS, რომელიც უზრუნველყოფს სასიცოცხლო ინფრასტრუქტურას ინტერნეტის დიდი ნაწილისთვის, გასულ წელს განიცადა რამდენიმე გათიშვა.

ერთი ინციდენტი, ოქტომბერში, რამდენიმე საათის განმავლობაში გათიშა ათობით საიტი და გამოიწვია დისკუსია ინტერნეტში არსებული სერვისების კონცენტრაციაზე, რომელიც ეკუთვნის რამდენიმე გიგანტურ კომპანიას. AWS-მა მოიგო 189 დიდი ბრიტანეთის მთავრობის კონტრაქტი, რომლის ღირებულებაა 1,7 მილიარდი ფუნტი 2016 წლიდან, იტყობინება Guardian ოქტომბერში.

AI-ით გამოწვეული გათიშვა უფრო მცირე მოვლენა იყო, თქვა კომპანიამ და მხოლოდ ერთი შეეხო მომხმარებელთა მომსახურებას.

ამაზონმა დაადასტურა იანვარში 16,000 თანამშრომლის გათავისუფლების გეგმები, მას შემდეგ, რაც გასულ ოქტომბერში 14,000 თანამშრომელი დაითხოვა. იანვარში, მისმა აღმასრულებელმა დირექტორმა, ენდი ჯესიმ, სავარაუდოდ, თქვა, რომ ეს შემცირება ეხებოდა კომპანიის კულტურას და არა მუშების ხელოვნური ინტელექტით ჩანაცვლებას.

თუმცა, ჯესიმ ადრე განაცხადა, რომ ხელოვნური ინტელექტის ეფექტურობის ზრდა შეამცირებს ამაზონის სამუშაო ძალას მომდევნო წლებში და ხელოვნური ინტელექტის აგენტები საშუალებას მისცემს მას "ნაკლები ყურადღება მიაქციოს რუტინულ სამუშაოს და მეტი იფიქროს მომხმარებელთა გამოცდილების გაუმჯობესებაზე."

FT-ისთვის გაკეთებულ განცხადებაში ამაზონმა თქვა, რომ ხელოვნური ინტელექტის ინსტრუმენტების ჩართულობა გათიშვაში იყო "შემთხვევითი" და არ არსებობდა მტკიცებულება, რომ ასეთმა ტექნოლოგიამ გამოიწვია მეტი შეცდომა, ვიდრე ადამიანური ინჟინრები. "ორივე შემთხვევაში, ეს იყო მომხმარებლის შეცდომა და არა ხელოვნური ინტელექტის შეცდომა", - თქვა მან.

რამდენიმე ექსპერტი სკეპტიკურად იყო განწყობილი ამ შეფასების მიმართ. უსაფრთხოების მკვლევარმა, ჯემისონ ო'რეილიმ, თქვა: "მიუხედავად იმისა, რომ საინჟინრო შეცდომები, რომლებიც გამოწვეულია ტრადიციული ინსტრუმენტებითა და ადამიანებით, არ არის იშვიათი მოვლენა, განსხვავება ამ და შეცდომებს შორის, სადაც ჩართულია ხელოვნური ინტელექტი, არის ის, რომ "გარეშე" ხელოვნური ინტელექტის გარეშე, ადამიანს, როგორც წესი, ხელით სჭირდება ინსტრუქციების ნაკრების აკრეფა და ამის კეთებისას მას გაცილებით მეტი დრო აქვს საკუთარი შეცდომის გაცნობიერებისთვის."

AI აგენტები ხშირად განლაგდებიან შეზღუდულ გარემოში და კონკრეტული ამოცანებისთვის, თქვა ო'რეილიმ და არ შეუძლიათ გაიგონ უფრო ფართო შედეგები, მაგალითად, სისტემის გადატვირთვა ან მონაცემთა ბაზის წაშლა - რამაც შესაძლოა ამაზონში შეცდომა გამოიწვია.

"მათ არ აქვთ სრული ხილვადობა იმ კონტექსტში, რომელშიც ისინი მუშაობენ, როგორ შეიძლება დაზარალდნენ თქვენი მომხმარებლები ან რა შეიძლება იყოს შეფერხების ღირებულება სამშაბათს, დილის 2 საათზე", - თქვა მან.

"თქვენ მუდმივად უნდა შეახსენოთ ამ ინსტრუმენტებს კონტექსტის შესახებ - "ჰეი, ეს სერიოზულია, ნუ გააფუჭებ ამას". და თუ ამას არ გააკეთებთ, ის იწყებს დავიწყებას ყველა სხვა შედეგის შესახებ."

გასულ წელს, Replit-ის ტექნოლოგიურმა კომპანიამ, რომელიც შეიქმნა აპლიკაციის შესაქმნელად, წაშალა მთელი კომპანიის მონაცემთა ბაზა, ფაბრიკაციული ანგარიშები და შემდეგ იცრუა მის ქმედებებზე.

მიჩალ ვოზნიაკმა, კიბერუსაფრთხოების ექსპერტმა, თქვა, რომ თითქმის შეუძლებელი იქნებოდა ამაზონისთვის მომავალში შიდა ხელოვნური ინტელექტის აგენტების მიერ შეცდომების სრულად თავიდან აცილება, რადგან ხელოვნური ინტელექტის სისტემები აკეთებენ მოულოდნელ არჩევანს და უკიდურესად რთულია.

"ამაზონი არასოდეს გამოტოვებს შანსს, მიუთითოს "AI"-ზე, როდესაც ეს მათთვის სასარგებლოა - მაგალითად, მასობრივ გათავისუფლებაში, რომელიც წარმოდგენილია ინჟინრების ხელოვნური ინტელექტით ჩანაცვლებით. მაგრამ როდესაც ხარვეზის გენერატორი ჩართულია გათიშვაში, მოულოდნელად ეს უბრალოდ "შემთხვევითია", - დასძინა მან.

ამაზონს კომენტარი სთხოვეს.