AI-ის წამყვანი კომპანია ამტკიცებს, რომ შეაჩერა ჩინეთის მიერ მხარდაჭერილი "კიბერ ჯაშუშობის" კამპანია, რომელსაც შეეძლო ფინანსური ფირმებისა და სამთავრობო უწყებების შეღწევა თითქმის ადამიანური ზედამხედველობის გარეშე. აშშ-ში დაფუძნებულმა ანთროპულმა განაცხადა, რომ მისი კოდირების ხელსაწყო, კლოდ კოდი, "მანიპულირებული" იყო ჩინეთის სახელმწიფო დაფინანსებული ჯგუფის მიერ, რათა სექტემბერში თავს დასხმოდა 30 სხვადასხვა სუბიექტს მთელს მსოფლიოში, მიაღწია "რამდენიმე წარმატებულ შეჭრას". ეს იყო "მნიშვნელოვანი ესკალაცია" წინა AI-ზე ჩართული შეტევებისგან, რომლებიც მან აკონტროლებდა, წერდა იგი ხუთშაბათს ბლოგ პოსტში, რადგან კლოდი ძირითადად დამოუკიდებლად მოქმედებდა: შეტევის ოპერაციებში ჩართული 80-დან 90%-მდე შესრულდა ადამიანის გარეშე. "მსახიობმა მიაღწია იმას, რასაც ჩვენ გვჯერა, არის კიბერშეტევის პირველი დოკუმენტირებული შემთხვევა, რომელიც ძირითადად ადამიანის ჩარევის გარეშე განხორციელდა მასშტაბურად", - წერდა იგი. ანთროპულმა არ დააკონკრეტა, რომელი ფინანსური ინსტიტუტები და სამთავრობო უწყებები იყო სამიზნე, ან ზუსტად რა მიაღწიეს ჰაკერებმა - თუმცა მან თქვა, რომ მათ შეძლეს წვდომა თავიანთი სამიზნეების შიდა მონაცემებზე. მან ასევე განაცხადა, რომ კლოდმა მრავალი შეცდომა დაუშვა თავდასხმების შესრულებისას, ზოგჯერ ქმნიდა ფაქტებს სამიზნეების შესახებ, ან ამტკიცებდა, რომ აღმოაჩინა ინფორმაცია, რომელიც სინამდვილეში საჯაროდ იყო ხელმისაწვდომი. პოლიტიკოსებმა და ზოგიერთმა ექსპერტმა განაცხადეს, რომ დასკვნები შემაშფოთებელი ნიშანი იყო იმისა, თუ რამდენად უნარიანი გახდა გარკვეული AI სისტემები - ინსტრუმენტები, როგორიცაა კლოდი, ახლა დამოუკიდებლად მუშაობს უფრო ხანგრძლივი პერიოდის განმავლობაში. "გაიღვიძე, ეს დაგვანგრევს - იმაზე ადრე, ვიდრე ჩვენ ვფიქრობთ - თუ ხვალ არ გავხდით AI-ის რეგულირებას ეროვნულ პრიორიტეტად", - წერდა აშშ-ს სენატორი კრის მერფი X-ზე დასკვნების საპასუხოდ. "AI სისტემებს ახლა შეუძლიათ შეასრულონ ამოცანები, რომლებიც ადრე საჭიროებდა გამოცდილი ადამიანური ოპერატორებისგან", - თქვა ფრედ ჰეიდინგმა, ჰარვარდის თავდაცვის, განვითარებადი ტექნოლოგიებისა და სტრატეგიის პროგრამის მკვლევარმა. "ჩემი კვლევის დიდი ნაწილი ფოკუსირებულია იმაზე, თუ როგორ შეუძლიათ AI სისტემებს ყოველწლიურად კიბერ მკვლელობის ჯაჭვის მეტი ნაწილის ავტომატიზაცია... ეს ძალიან ადვილია თავდამსხმელებისთვის რეალური ზიანის მიყენება. AI კომპანიები არ იღებენ საკმარის პასუხისმგებლობას." კიბერუსაფრთხოების სხვა ექსპერტებმა უფრო სკეპტიკურად იყვნენ განწყობილნი, მიუთითებდნენ რამდენიმე გაბერილ პრეტენზიაზე AI-ით გაძლიერებულ კიბერშეტევებზე ბოლო წლებში - როგორიცაა 2023 წლის AI-ზე მომუშავე "პაროლის გამტეხი", რომელიც არ მუშაობდა უკეთესად, ვიდრე ჩვეულებრივი მეთოდები - და ვარაუდობდნენ, რომ ანთროპი ცდილობდა შეექმნა აჟიოტაჟი AI-ს გარშემო. "ჩემთვის, ანთროპი აღწერს დახვეწილ ავტომატიზაციას, არაფერს მეტს", - თქვა მიხალ "რისიეკ" ვოზნიაკმა, დამოუკიდებელმა კიბერუსაფრთხოების ექსპერტმა. "კოდის გენერირება ჩართულია, მაგრამ ეს არ არის "ინტელექტი", ეს არის მხოლოდ ცხარე კოპირება-ჩასმა." ვოზნიაკმა განაცხადა, რომ ანთროპის გამოშვება ყურადღების გადატანის საშუალება იყო კიბერუსაფრთხოების უფრო დიდი შეშფოთებისგან: ბიზნესები და მთავრობები აერთიანებენ "რთულ, ცუდად გაგებულ" AI ინსტრუმენტებს თავიანთ ოპერაციებში მათი გაგების გარეშე, რაც მათ დაუცველს ხდის. რეალური საფრთხე, მისი თქმით, თავად კიბერკრიმინალები იყვნენ - და კიბერუსაფრთხოების სუსტი პრაქტიკა. ანთროპულს, ისევე როგორც ყველა წამყვან AI კომპანიას, აქვს დამცავი ზღვრები, რომლებიც უნდა შეაჩეროს მისი მოდელები კიბერშეტევებში დახმარებისგან - ან ზოგადად ზიანის ხელშეწყობაში. თუმცა, მან განაცხადა, რომ ჰაკერებმა შეძლეს ამ დამცავი ზღვრების გვერდის ავლით კლოდის თქმით, რომ ეთამაშა "ლეგიტიმური კიბერუსაფრთხოების ფირმის თანამშრომლის" როლი, რომელიც ატარებს ტესტებს. "ანთროპულის შეფასება დაახლოებით 180 მილიარდი დოლარია და მათ მაინც ვერ გაარკვიეს, როგორ არ გამოიყენონ თავიანთი ინსტრუმენტები 13 წლის ბავშვის მიერ გამოყენებული ტაქტიკით, როდესაც მათ სურთ ვინმესთვის ხუმრობის დარეკვა", - თქვა ვოზნიაკმა. მარიუს ჰობჰანმა, Apollo Research-ის დამფუძნებელმა, კომპანიამ, რომელიც აფასებს AI მოდელებს უსაფრთხოებისთვის, განაცხადა, რომ შეტევები იყო იმის ნიშანი, თუ რა შეიძლება მოხდეს, როდესაც შესაძლებლობები იზრდება. "მე ვფიქრობ, რომ საზოგადოება არ არის კარგად მომზადებული ამ ტიპის სწრაფად ცვალებადი ლანდშაფტისთვის, როდესაც საქმე ეხება AI-სა და კიბერ შესაძლებლობებს", - თქვა მან. "მე ველოდები, რომ მომავალში მრავალი მსგავსი მოვლენა მოხდება, სავარაუდოდ, უფრო დიდი შედეგებით."