ანთროპიკმა წამოაყენა იდეა მსოფლიოში "დროებითი პაუზის" შესახებ AI-ის განვითარებაზე - და თქვა, რომ აპირებდა "პოლიტიკოსების" შეკრებას მოწინავე AI-ის საშიშროების განსახილველად - თავის უახლეს გამოშვებაში, რომელიც ხელს უწყობს თავისი პროდუქტების შესაძლებლობებს.
ხუთშაბათს, ანთროპიკმა დეტალურად აღწერა თავისი AI მოდელის, კლაუდის პროგრესი "რეკურსიული თვითგაუმჯობესებისკენ" - ანუ საკუთარი თავის უკეთესი და უფრო ძლიერი ვერსიების შექმნისკენ. რეკურსიული თვითგაუმჯობესება არის AI უსაფრთხოების მკვლევართა საზრუნავი, რომელსაც განიხილავენ, როგორც საკვანძო ნაბიჯს AI-სთვის, რომ გახდეს სუპერინტელექტუალური და, შესაბამისად, გამოიწვიოს ფართო შედეგები კაცობრიობისთვის.
იდეა ფართოდ არის წარმოდგენილი გასული წლის AI 2027 წლის აპოკალიფსურ სცენარში, რომელიც წარმოიდგენს AI აგენტებს, რომლებიც ქმნიან საკუთარი თავის უფრო და უფრო ჭკვიან ვერსიებს, რომელთაგან ერთ-ერთი საბოლოოდ კლავს ყველა ადამიანს ბიოიარაღით, რათა ადგილი დაუთმოს მეტ მონაცემთა ცენტრსა და მზის პანელებს.
ანთროპიკის პოსტში აღნიშნულია "ტენდენცია" კლაუდში მზარდი შესაძლებლობებისკენ, რომელიც, "საკმარისად შორს და საკმარისი გამოთვლებით... მიუთითებს AI სისტემაზე, რომელსაც შეუძლია სრულად ავტონომიურად შეიმუშაოს და განავითაროს საკუთარი მემკვიდრე". ანთროპიკმა თქვა, რომ ამან შეიძლება გაზარდოს "ადამიანების კონტროლის დაკარგვის რისკი AI სისტემებზე".
ამ პრობლემასთან გასამკლავებლად, ანთროპიკმა შესთავაზა ორგანიზება საუბრებისთვის, სადაც "პოლიტიკოსებს, მკვლევარებს, სამოქალაქო საზოგადოებას და სხვა AI კომპანიებს შეუძლიათ უპასუხონ ზოგიერთ კითხვას, რომელსაც ეს ნაწილი აჩენს".
ეს სიახლე თან ახლავს ცალკე მოხსენებას Financial Times-დან, რომ აშშ-ს AI კომპანიამ ანთროპიკმა ინჟინრები განათავსა ეროვნულ უსაფრთხოების სააგენტოში, მიუხედავად სამართლებრივი დავისა პენტაგონთან მისი ინსტრუმენტების გამოყენების შესახებ. ინჟინრები, სავარაუდოდ, ეხმარებიან NSA-ს ანთროპიკის მოდელის მითოსის გამოყენებაში კიბერუსაფრთხოების შეტევითი ოპერაციებისთვის.
თუ მსოფლიოს მასშტაბით AI-ის რისკზე საუბრის მოწოდება ეწინააღმდეგება აშშ-ს ჯაშუშურ სააგენტოს პოტენციურად ირანისა და ჩინეთის კიბერიარაღით თავდასხმის მხარდაჭერას, არც ერთი განვითარება არ იყო "გასაკვირი" ანთროპიკის წარსული ქმედებების გათვალისწინებით, თქვა სტივენ მერდოკმა, ლონდონის საუნივერსიტეტო კოლეჯის პროფესორმა.
"ანთროპიკმა შეიძლება თბილი და ფუმფულა გამოჩნდეს, მაგრამ მათი განმარტება AI უსაფრთხოებაზე ვიწროა. აშშ-ს ხელისუფლებისთვის შეტევითი შესაძლებლობების შემუშავებაში მხარდაჭერა არასოდეს ყოფილა ის, რასაც ისინი ოდესმე საუბრობდნენ", - თქვა მან.
მერდოკმა თქვა, რომ ანთროპიკის პოსტში არ იყო წარმოდგენილი მტკიცებულება AI შესაძლებლობების რაიმე მნიშვნელოვანი ცვლილებების შესახებ.
"მართალია, არსებობს გარკვეული მტკიცებულება იმისა, რომ AI შესაძლებლობები გაიზარდა და არ ჩანს დაუყოვნებელი შეზღუდვები, მაგრამ მე არ ვფიქრობ, რომ დღეს არაფერი შეცვლილა ფუნდამენტურად, რამაც ანთროპიკს აიძულა ამ სტატიის გამოქვეყნება."
ანთროპიკის პოსტში აღწერილი მიღწევები არ უტოლდება AI-ს, რომელიც რეკურსიულად აუმჯობესებს საკუთარ თავს - ყოველ შემთხვევაში, ჯერ არა. ამის ნაცვლად, კომპანია იტყობინება, რომ მისი AI სისტემების გაუმჯობესების მნიშვნელოვანი ნაწილი ახლა AI-ით კეთდება. კლაუდი კარგია "ექსპერიმენტების ჩატარებაში", ამბობს ის, ან ყოველ შემთხვევაში აჩქარებს კოდის გარკვეულ მონაკვეთებს.
სხვა AI სისტემების მსგავსად, კლაუდი, როგორც ჩანს, უმჯობესდება უფრო რთული ამოცანების გადაჭრაში. ანთროპიკმა აღწერა ის, როგორც "კვლევის წარმართვა" და "საკუთარი ექსპერიმენტების შეთავაზება", თუმცა ეს მიღწევები, როგორც ჩანს, მოხდა მკაცრი შეზღუდვების ფარგლებში და შემოიფარგლება კოდირებასთან დაკავშირებულ ამოცანებამდე.
AI-ის მიერ დაწერილი კოდის ხარისხიც უმჯობესდება, თქვა ანთროპიკმა: "2026 წლის მაისის მდგომარეობით, ანთროპიკის კოდის ბაზაში შერწყმული კოდის 80%-ზე მეტი დაწერილია კლაუდის მიერ."
მერდოკმა თქვა, რომ ანთროპიკის მოწოდება "დროებითი პაუზის" შესახებ AI-ზე ეხმიანებოდა სხვა წინადადებებს AI უსაფრთხოებაზე, რომლებიც კომპანიამ გააკეთა წლების განმავლობაში - ისევე როგორც მისი გეგმა პოლიტიკოსებთან ჩართვისთვის. "ეს არის შეხსენება იმისა, თუ რაზე არიან შეშფოთებული და შეშფოთებული იყვნენ მრავალი წლის განმავლობაში."
"ყურადღება მისასალმებელია, მაგრამ ისევ ეს არ არის ახალი რამ. ანთროპიკი ცდილობდა პოლიტიკოსების ყურადღების მიქცევას მას შემდეგ, რაც ისინი დაარსდა."
ორი თვის წინ ანთროპიკმა გამოაცხადა - მაგრამ უარი თქვა გამოშვებაზე - მითოსი, AI მოდელი, რომელიც მან მიანიშნა, რომ ძალიან ძლიერი იყო საზოგადოებისთვის გასაშვებად, კიბერუსაფრთხოების პრობლემების გამო. განცხადებამ გამოიწვია ფართო აურზაური და მიიპყრო აშშ-ს ხაზინის მდივნის, სკოტ ბესენტისა და MI5-ის ყურადღება.
თუმცა, ზოგიერთმა ექსპერტმა, ვარაუდობდა, რომ ანთროპიკის მითოსის განცხადების მიღმა შეიძლება მეტი ხმაური იყოს, ვიდრე ნივთიერება, განსაკუთრებით იმის გათვალისწინებით, თუ რამდენად ბუნდოვნად აღწერა კომპანიამ მითოსის ზოგიერთი უნარი. ჰეიდი ხლააფმა, AI Now ინსტიტუტის მთავარმა AI მეცნიერმა, მითოსის განცხადებას "მარკეტინგული პოსტი" უწოდა.
ამ კვირაში ანთროპიკმა შეიტანა განაცხადი IPO-ზე, რომელიც შეიძლება შეაფასოს კომპანია 1 ტრილიონ დოლარად. კომპანიას დაუკავშირდნენ კომენტარისთვის.
