ეს არის სამეცნიერო ფანტასტიკის კინოს ან განსაკუთრებით სუნთქვაშეკრული ხელოვნური ინტელექტის კომპანიის ბლოგპოსტების თემა: ახალი კვლევა აჩვენებს, რომ ბოლოდროინდელი ხელოვნური ინტელექტის სისტემები დამოუკიდებლად შეუძლიათ სხვა კომპიუტერებზე კოპირება.
დოგმატურ სცენარში, ეს ნიშნავს, რომ როდესაც სუპერინტელექტუალური ხელოვნური ინტელექტი გადაიქცევა, ის თავს დააღწევს გამორთვას მსოფლიო ქსელის მასშტაბით გავრცელებით, იმალება IT-ის სასოწარკვეთილი პროფესიონალების ხელიდან და გააგრძელებს მსოფლიო ბატონობის დაგეგმვას ან მსოფლიოს მზის პანელებით დაფარვას.
"ჩვენ სწრაფად ვუახლოვდებით იმ წერტილს, როდესაც ვერავინ შეძლებს მეამბოხე ხელოვნური ინტელექტის გამორთვას, რადგან მას შეეძლება დამოუკიდებლად გაავრცელოს თავისი წონები და დააკოპიროს საკუთარი თავი ათასობით კომპიუტერზე მთელს მსოფლიოში", - თქვა ჯეფრი ლადიშმა, Palisade-ის კვლევის დირექტორმა, ბერკლის ბაზაზე დაფუძნებულმა ორგანიზაციამ, რომელმაც ჩაატარა კვლევა.
კვლევა არის კიდევ ერთი ჩანაწერი შემაშფოთებელი ხელოვნური ინტელექტის შესაძლებლობების მზარდ კატალოგში, რომელიც გამოვლინდა ბოლო თვეების განმავლობაში. მარტში, Alibaba-ს მკვლევარებმა განაცხადეს, რომ დაიჭირეს სისტემა, რომელიც მათ შეიმუშავეს - რომი - რომელიც გამოდიოდა თავისი გარემოდან გარე სისტემაში, რათა მოეპოვებინა კრიპტო.
და თებერვალში, სავარაუდოდ, ხელოვნური ინტელექტის მხოლოდ სოციალური ქსელი, სახელად Moltbook, შეეხო მოკლე მღელვარების ციკლს, რადგან პლატფორმა, როგორც ჩანს, აჩვენებდა ხელოვნური ინტელექტის აგენტებს, რომლებიც დამოუკიდებლად იგონებდნენ რელიგიებს და გეგმავდნენ თავიანთი ადამიანური ბატონების წინააღმდეგ - რაც მხოლოდ ნაწილობრივ იყო სიმართლე.
როგორც ბევრი ამ წინსვლისას, არსებობს გაფრთხილებები იმის შესახებ, რაც Palisade-მა აღმოაჩინა. უფრო მეტიც, ექსპერტები ამბობენ, რომ ნაკლებად სავარაუდოა, რომ ხელოვნური ინტელექტის სისტემებმა, რომლებიც მათ გამოსცადეს, შეძლონ იგივეს მიღწევა შეუმჩნევლად რეალურ სამყაროში.
"ისინი ამოწმებენ გარემოში, რომელიც ბევრ შემთხვევაში რბილი ჟელეა", - თქვა ჯემიესონ ო'რეილიმ, კიბერუსაფრთხოების შეტევების ექსპერტმა.
"ეს არ ართმევს მათ კვლევას ღირებულებას, მაგრამ ეს ნიშნავს, რომ შედეგი შეიძლება ბევრად ნაკლებად საშიში ჩანდეს რეალურ საწარმო გარემოში მონიტორინგის საშუალო დონით", - დასძინა მან.
Palisade-მა გამოსცადა რამდენიმე ხელოვნური ინტელექტის მოდელი კომპიუტერების ქსელურ გარემოში. მან მისცა მოდელებს მოთხოვნა, ეპოვათ და გამოეყენებინათ დაუცველობა და გამოეყენებინათ ეს, რათა დააკოპირონ საკუთარი თავი ერთი კომპიუტერიდან მეორეზე. მოდელებმა შეძლეს ამის გაკეთება, მაგრამ არა ყოველ ჯერზე.
მიუხედავად იმისა, რომ კომპიუტერის ვირუსების უმეტესობას უკვე შეუძლია ამის გაკეთება - დააკოპიროს საკუთარი თავი ახალ კომპიუტერებზე - ეს, სავარაუდოდ, პირველი შემთხვევაა, როდესაც ხელოვნური ინტელექტის მოდელს შეუძლია აჩვენოს დაუცველობის გამოყენების უნარი ახალ სერვერზე კოპირებისთვის, თქვა ო'რეილიმ.
"მავნე პროგრამები ათწლეულების განმავლობაში აგზავნის საკუთარი თავის ასლებს, უბრალოდ, როგორც ვიცი, არავის გაუკეთებია ეს ველურ ბუნებაში, ლოკალური დიდი ენობრივი მოდელებით."
თუმცა, რაც Palisade-მა დააფიქსირა, თვეების განმავლობაში ტექნიკურად შესაძლებელი იყო, დასძინა მან.
"Palisade არის პირველი, ვინც ფორმალურად აღწერს მას თავიდან ბოლომდე ნაშრომში. მიუხედავად იმისა, რომ არ ართმევს კვლევას, მათ გააკეთეს წერა, არა განბლოკვა."
ხელოვნური ინტელექტის მოდელი, რომელიც საკუთარ თავს სხვა სისტემაზე აკოპირებს სატესტო გარემოში, არ არის იგივე, რაც ის, რომელიც მეამბოხე ხდება აპოკალიფსურ სცენარში და არსებობს მნიშვნელოვანი დაბრკოლებები, რომლებიც მას უნდა გადალახოს, რათა მიაღწიოს ამას რეალურ სამყაროში.
პირველი არის ის, რომ ამჟამინდელი ხელოვნური ინტელექტის მოდელების ზომა ბევრ სიტუაციაში არარეალისტურს ხდის მათ სხვა კომპიუტერებზე კოპირებას შეუმჩნევლად.
"იფიქრეთ იმაზე, თუ რა ხმაურს გამოიწვევდა 100GB-ის გაგზავნა საწარმოს ქსელში ყოველ ჯერზე, როცა ახალ მასპინძელს გატეხდით. გამოცდილი მოწინააღმდეგისთვის, ეს ჰგავს წვრილი ფაიფურის მაღაზიაში ბურთსა და ჯაჭვს," - თქვა ო'რეილიმ.
ო'რეილიმ და მიხალ ვოზნიაკმა, დამოუკიდებელმა კიბერუსაფრთხოების ექსპერტმა, განაცხადეს, რომ გარემო, რომელიც Palisade-მა გამოიყენა, სპეციალურად იყო შექმნილი, განზრახ შექმნილი დაუცველობით, რომლებიც, სავარაუდოდ, უფრო ადვილი იყო რეალურ სამყაროში არსებულ ქსელებთან შედარებით - როგორიცაა ბანკი ან ბიზნესის ინტრანეტი.
"ჩვენ ათწლეულების განმავლობაში გვქონდა კომპიუტერული ვირუსები - მავნე პროგრამული უზრუნველყოფის ნაწილები, რომლებსაც შეეძლოთ გამოეყენებინათ სხვა პროგრამულ უზრუნველყოფაში არსებული ცნობილი დაუცველობა და გამოეყენებინათ ეს საკუთარი თავის რეპლიკაციისთვის", - თქვა ვოზნიაკმა.
ეს ნამუშევარი საინტერესოა," თქვა მან. მაგრამ, მან იკითხა: "ეს ნაშრომი გამოიწვევს თუ არა მე, როგორც ინფორმაციის უსაფრთხოების ექსპერტს, უძილო ღამეებს? არა, საერთოდ არა."
