
წითელი ჯვრის საერთაშორისო კომიტეტმა და უფლებადამცველმა ორგანიზაციებმა გააფრთხილეს, რომ მალე ძალიან გვიან იქნება „ჯინის ბოთლში დაბრუნება“, რადგან ავტონომიური იარაღის განვითარება რეგულირების მცდელობებს უსწრებს.
ეს მკაცრი გაფრთხილება ჟენევაში გამართული გაეროს კონვენციის (CCW) 120-ზე მეტი წევრი სახელმწიფოს ერთკვირიანი კონფერენციის დასრულების შემდეგ გაკეთდა.
მიუხედავად მზარდი ზეწოლისა, შეთანხმება, რომელიც ავტონომიური იარაღის რეგულირების მექანიზმის განხილვას მომდევნო ორ წელიწადში ითვალისწინებდა, ვერ პასუხობდა იმ სასწრაფო ზომებს, რომელთა მიღებასაც უფლებადამცველები მოითხოვდნენ მოსალოდნელი საფრთხის თავიდან ასაცილებლად.
„ჩვენ უკვე ვხედავთ, რომ ხელოვნური ინტელექტი ... გამოიყენება საბრძოლო ველზე და შესაძლოა უკვე იარაღის სისტემებშიც. თუ ამას რეგულირების გარეშე დავტოვებთ, გაცილებით რთული იქნება ჯინის ბოთლში დაბრუნება,“ — განაცხადა კორდულა დრიოგემ, წითელი ჯვრის საერთაშორისო კომიტეტის საერთაშორისო სამართლის, მოძრაობისა და პარტნიორობის დირექტორმა.
ავტონომიური იარაღი სამხედრო სისტემებია, რომლებიც ადამიანის ზედამხედველობის გარეშე მოქმედებენ, ხშირად ხელოვნური ინტელექტის ან რობოტიკის სხვა ფორმების გამოყენებით.
ბოლო წლებში ხელოვნური ინტელექტის სწრაფი განვითარებით, სამხედროებმა და მწარმოებლებმა შექმნეს სულ უფრო დახვეწილი იარაღის სისტემები როგორც შეტევითი, ასევე თავდაცვითი მიზნებისთვის.
ამ სისტემებში შედის ხელოვნური ინტელექტის გამოყენება სამიზნეების ბაზების შესაქმნელად, როგორც ეს ისრაელის არმიამ გააკეთა ღაზაში, ასევე ნახევრადავტონომიური დრონები უკრაინისა და რუსეთის ომში, რომლებსაც აქვთ „ბოლო ეტაპის შესაძლებლობა“, როდესაც დრონის სამიზნემდე მისვლისას კონტროლს ხელოვნური ინტელექტი იღებს.
წითელი ჯვრის საერთაშორისო კომიტეტის პრეზიდენტმა მირიანა სპოლიარიჩ ეგერმა და გაეროს გენერალურმა მდივანმა ანტონიო გუტერეშმა მოითხოვეს იურიდიულად სავალდებულო მექანიზმი, რომელიც მკაფიოდ განსაზღვრავს აკრძალვებსა და შეზღუდვებს იარაღის გამოყენებაზე. კერძოდ, წითელი ჯვარი მოითხოვს აკრძალვას ავტონომიური იარაღის გამოყენებაზე ადამიანების წინააღმდეგ, ასევე უზრუნველყოფას, რომ იარაღის სისტემები პროგნოზირებადად მოქმედებდნენ და შეზღუდვები დაწესდეს მათ გამოყენებაზე მხოლოდ სამხედრო ობიექტების წინააღმდეგ.
ექსპერტები ამბობენ, რომ ავტონომიური იარაღისა და ხელოვნური ინტელექტის სწრაფი განვითარების ფონზე, რეგულაციების არარსებობა სერიოზულ საფრთხეებს ქმნის.
„საუბარი არ არის ყველა ავტონომიური იარაღის აკრძალვაზე, არამედ იმ წითელი ხაზების დაწესებაზე საერთაშორისო ხელშეკრულებით, რომლებიც არასდროს უნდა გადაიკვეთოს,“ — აღნიშნა დრიოგემ. „ჩვენ ძალიან ახლოს ვართ ამ წითელი ხაზების გადაკვეთასთან, განსაკუთრებით მაშინ, როდესაც ადამიანების სამიზნედ ქცევა ხდება მანქანების მეშვეობით — ეს უნდა იყოს მორალური წითელი ხაზი.“
სხვა უფლებადამცველმა ორგანიზაციებმა გააფრთხილეს, რომ რეგულირების ნებისმიერი დაყოვნება საფრთხეს უქმნის, რომ ავტონომიური იარაღის გამოყენების ნორმებს კერძო ინდუსტრია და სამხედროები დააწესებენ.
უკვე, ავტონომიურმა იარაღმა სამოქალაქო მოსახლეობას ზიანი მიაყენა. ივლისში, სამხრეთ-აღმოსავლეთ უკრაინის ზაპოროჟიეში, რუსული დრონის მიერ, რომელსაც ხელოვნური ინტელექტი მართავდა, სამი მშვიდობიანი მოქალაქე დაიღუპა. დრონი, სავარაუდოდ, ბენზინგასამართ სადგურს უმიზნებდა, მაგრამ კედელს დაეჯახა და აფეთქების შედეგად სამი ადამიანი დაიღუპა.
ღაზაში, ისრაელმა ხელოვნური ინტელექტის დახმარებით სამიზნეების შევსება გაცილებით სწრაფად შეძლო, ვიდრე ეს ადამიანისთვის იქნებოდა შესაძლებელი ომის დაწყების შემდეგ. შედეგად, უფლებადამცველები აცხადებენ, რომ სამოქალაქო პირები და ისინიც კი, ვისაც მხოლოდ სუსტი კავშირი ჰქონდა შეიარაღებულ ჯგუფებთან, შეცდომით იქნენ მოკლულნი.
ირანში, ამერიკული დარტყმა, რომელმაც დაწყებით სკოლას დაარტყა და 156 მშვიდობიანი მოქალაქე, მათ შორის 120 ბავშვი იმსხვერპლა, სავარაუდოდ, ხელოვნური ინტელექტის სისტემების მიერ მოპოვებული მცდარი დაზვერვის შედეგი იყო.
ანა ჰეირი, Future of Life Institute-ის სამხედრო AI-ის მმართველობის ხელმძღვანელი, ამბობს, რომ ძლიერი ხელშეკრულების შემუშავების შემდგომმა დაყოვნებამ შეიძლება გამოიწვიოს „მეტი მასობრივი სამოქალაქო ზიანი, ვიდრე ბოლო 18-24 თვეში ვიხილეთ“, და აფრთხილებს, რომ ზოგიერთი ასეთი შემთხვევა შეიძლება ბევრად მასშტაბური იყოს, ვიდრე უკვე მომხდარი. მისი თქმით, მწარმოებლები და სამხედროები ცდილობენ შექმნან „ჯოგური“ შესაძლებლობები, როდესაც ასობით ან ათასობით ავტონომიური დრონი ერთდროულად მოქმედებს.
„ეს ქმნის მაღალი ზიანის პოტენციალს, უბრალოდ სისტემების მასშტაბურობის გამო. საკმარისია ერთ მათგანში ალგორითმული შეცდომა მოხდეს და მთელი ჯოგი ამ შეცდომის მიხედვით იმოქმედებს ... განსაკუთრებით მაშინ, თუ ისინი ადამიანების სამიზნედ ქცევაზე არიან დაპროგრამებული.“
ასევე არსებობს გავრცელების რისკი, რადგან არასახელმწიფოებრივი ჯგუფები სულ უფრო ხშირად იყენებენ ხელოვნურ ინტელექტს იარაღის სისტემების დასაპროგრამებლად, როგორც ეს მოხდა, როდესაც იემენში ჰუსიტების მოძრაობამ Claude გამოიყენა ბალისტიკური რაკეტების „ვაიბ კოდირებისთვის“.
აფრიკის საჰელის რეგიონში მოქმედმა შეიარაღებულმა ისლამისტურმა ჯგუფებმა, გავრცელებული ინფორმაციით, გამოიყენეს AI ინსტრუმენტები დრონების ბალისტიკის გასაუმჯობესებლად და ოპერაციული დაგეგმვისთვის.
„ეს არის ერთადერთი მნიშვნელოვანი საკითხი ამ კვირაში. საქმე არ ეხება მხოლოდ კანონების შინაარსს. დღის წესრიგში, 13 წლის შემდეგ, დგას კითხვა — არსებობს თუ არა საბოლოოდ პოლიტიკური ნება, რომ სერიოზულად დავიწყოთ ავტონომიური იარაღის სისტემების რეგულირება,“ — განაცხადა გაეროს დისკუსიების შესახებ ინფორმირებულმა ერთ-ერთმა მაღალჩინოსანმა დიპლომატმა.


















