ხელოვნური ინტელექტი თანამედროვე ომში უკვე გამოიყენება დრონებისა და თანამგზავრების მონაცემების დასამუშავებლად, საფრთხეების აღმოსაჩენად და სამხედრო გადაწყვეტილებების დასაჩქარებლად. ახლა მთავარი კითხვა ისაა, სად მთავრდება AI-ის, როგორც დამხმარე ინსტრუმენტის როლი და იწყება მანქანის მიერ ადამიანის სიცოცხლის შესახებ გადაწყვეტილების მიღება. პარალელურად, ევროპა ცდილობს შეამციროს ამერიკულ სამხედრო ტექნოლოგიებზე დამოკიდებულება და საკუთარი თავდაცვითი AI შექმნას.

ფრანგული თავდაცვითი და ტექნოლოგიური კომპანია Thales ხელოვნური ინტელექტის განვითარების დასარეგულირებლად საერთაშორისო ჩარჩოს შექმნას ითხოვს. კომპანიის აღმასრულებელი დირექტორის, პატრის კენის განცხადებით, მხოლოდ ტექნიკური უსაფრთხოების მექანიზმები საკმარისი არ არის — საჭიროა სახელმწიფოთა ზედამხედველობა და საერთაშორისო წესები.

მოწოდება განსაკუთრებით მნიშვნელოვანია იმის გათვალისწინებით, რომ ხელოვნური ინტელექტი უკვე სწრაფად ინერგება სამხედრო მართვის სისტემებში. ალგორითმებს შეუძლიათ დრონებიდან, რადარებიდან და თანამგზავრებიდან მიღებული უზარმაზარი მოცულობის მონაცემები რამდენიმე წამში დაამუშაონ, შესაძლო სამიზნეები გამოავლინონ და მეთაურებს მოქმედების ვარიანტები შესთავაზონ.

თუმცა სიჩქარე, რომელსაც სამხედროები AI-ის მთავარ უპირატესობად მიიჩნევენ, შეიძლება მის ყველაზე დიდ საფრთხედაც იქცეს: როდესაც გადაწყვეტილების მისაღებად მხოლოდ რამდენიმე წამი არსებობს, რამდენად რეალურია ადამიანის მიერ ალგორითმის დასკვნის სრულფასოვნად შემოწმება?

რას აკეთებს AI ბრძოლის ველზე?

სამხედრო ხელოვნურ ინტელექტზე საუბრისას ერთმანეთისგან განსხვავებული სისტემები ხშირად ერთ კატეგორიაში ექცევა.

ერთ შემთხვევაში AI მხოლოდ მონაცემთა დამუშავების ინსტრუმენტია: ის ათასობით ფოტოსა და ვიდეოჩანაწერში საეჭვო გადაადგილებას, სამხედრო ტექნიკას ან კონკრეტულ ობიექტს პოულობს. საბოლოო გადაწყვეტილებას კი ადამიანი იღებს.

მეორე შემთხვევაში სისტემა ალგორითმის მიერ გამოვლენილ სამიზნეებს პრიორიტეტების მიხედვით ალაგებს და მეთაურს დარტყმის შესაძლო გეგმას სთავაზობს.

ყველაზე სადავო მესამე მოდელია: ავტონომიური იარაღი, რომელსაც გააქტიურების შემდეგ შეუძლია ადამიანის უშუალო ჩარევის გარეშე აღმოაჩინოს, შეარჩიოს და დააზიანოს სამიზნე.

სწორედ ამ მესამე ეტაპზე ჩნდება მთავარი სამართლებრივი და ეთიკური პრობლემა — შეიძლება თუ არა, ადამიანის სიცოცხლის მოსპობის გადაწყვეტილება მანქანას გადაეცეს?

ალგორითმი ხედავს მონაცემს და არა კონტექსტს

AI სისტემები სამიზნეებს წარსული მონაცემების, წინასწარ განსაზღვრული ნიშნებისა და ალბათობების საფუძველზე ამოიცნობენ. მაგრამ ომის რეალურ გარემოში ერთი და იგივე ქცევა სრულიად განსხვავებულ რამეს შეიძლება ნიშნავდეს.

ადამიანი, რომელიც სამხედრო ობიექტთან გადაადგილდება, შეიძლება მებრძოლი იყოს, თუმცა ის ასევე შეიძლება იყოს ადგილობრივი მცხოვრები, ჟურნალისტი, ექიმი, მძევალი ან დაჭრილის დასახმარებლად მისული პირი. სატვირთო ავტომობილს შეიძლება იარაღი გადაჰქონდეს, მაგრამ ის შესაძლოა ჰუმანიტარულ დახმარებასაც ეზიდებოდეს.

ალგორითმს შეუძლია ამ ობიექტების კლასიფიცირება, თუმცა მას არ ესმის განზრახვა, შიში, იძულება ან გარემოება. არც ყველაზე მაღალი სტატისტიკური სიზუსტე ნიშნავს, რომ კონკრეტულ შემთხვევაში გადაწყვეტილება სწორი იქნება.

განსაკუთრებით მაღალია შეცდომის რისკი, როდესაც სისტემა არასრული, მოძველებული ან მიკერძოებული მონაცემებითაა მომზადებული. პრობლემა კიდევ უფრო მწვავდება, თუ სამხედრო AI ისეთ გარემოში გამოიყენება, რომელიც მნიშვნელოვნად განსხვავდება მისი სატესტო პირობებისგან.

ვინ აგებს პასუხს შეცდომაზე?

თუ სამხედრო მოსამსახურე მცდარ გადაწყვეტილებას მიიღებს, შესაძლებელია მისი მოქმედების, ბრძანების ჯაჭვისა და პასუხისმგებლობის გამოძიება. მაგრამ ვინ არის პასუხისმგებელი, თუ სამოქალაქო ობიექტზე დარტყმა ალგორითმის მიერ არასწორად გამოვლენილი სამიზნის გამო განხორციელდა?

შესაძლო პასუხისმგებელთა სია გრძელია:

სამხედრო მეთაური, რომელმაც AI-ის რეკომენდაცია მიიღო;

ოპერატორი, რომელმაც სისტემის მიერ შეთავაზებული სამიზნე დაამტკიცა;

პროგრამული უზრუნველყოფის შემქმნელი კომპანია;

სახელმწიფო, რომელმაც სისტემა შეიძინა და გამოიყენა;

სპეციალისტები, რომლებმაც მოდელი კონკრეტული მონაცემებით გაწვრთნეს.

საფრთხე ისაა, რომ პასუხისმგებლობა ამ მონაწილეებს შორის გაიფანტოს და საბოლოოდ არავინ აღმოჩნდეს გადაწყვეტილების რეალურ ავტორად.

საერთაშორისო ჰუმანიტარული სამართალი მოითხოვს მებრძოლებისა და სამოქალაქო პირების ერთმანეთისგან გარჩევას, სამხედრო უპირატესობასა და სამოქალაქო ზიანს შორის პროპორციულობის შეფასებას და სიფრთხილის აუცილებელი ზომების მიღებას. ამ პასუხისმგებლობას ალგორითმს ვერ დავაკისრებთ — სამართლის სუბიექტად ისევ ადამიანი და სახელმწიფო რჩება.

რას ნიშნავს „ადამიანის კონტროლი“?

AI-ის სამხედრო გამოყენების მომხრეებიც ხშირად ამბობენ, რომ საბოლოო გადაწყვეტილებას ადამიანი უნდა იღებდეს. თუმცა ადამიანის ფორმალური მონაწილეობა ყოველთვის რეალურ კონტროლს არ ნიშნავს.

თუ ოპერატორს ალგორითმის მიერ წარმოდგენილი ასობით სამიზნის დასამტკიცებლად რამდენიმე წამი აქვს, მისი თანხმობა შესაძლოა მხოლოდ ღილაკზე დაჭერად იქცეს. იგივე პრობლემაა, როდესაც სისტემის მუშაობის ლოგიკა იმდენად რთულია, რომ სამხედრო მეთაურს არ შეუძლია გაიგოს, რატომ მიანიჭა ალგორითმმა კონკრეტულ ადამიანს ან ობიექტს მაღალი რისკის სტატუსი.

„აზრიანი ადამიანური კონტროლი“ მინიმუმ უნდა გულისხმობდეს, რომ ადამიანს აქვს:

საკმარისი დრო გადაწყვეტილების შესაფასებლად;

ინფორმაცია სისტემის შესაძლებლობებისა და შეზღუდვების შესახებ;

სამიზნისა და ოპერაციული გარემოს სათანადო ცოდნა;

AI-ის რეკომენდაციის უარყოფის რეალური უფლებამოსილება;

მკაფიო პირადი და სამართლებრივი პასუხისმგებლობა.

თუ ეს პირობები არ არსებობს, ადამიანი გადაწყვეტილების მიმღები აღარ არის — ის მხოლოდ ალგორითმის მოქმედებას ფორმალურად ადასტურებს.

გაერო და წითელი ჯვარი საერთაშორისო წესებს ითხოვენ

გაერთიანებული ერების ორგანიზაცია და წითელი ჯვრის საერთაშორისო კომიტეტი სახელმწიფოებს ავტონომიური იარაღის შესახებ სავალდებულო საერთაშორისო წესების მიღებისკენ მოუწოდებენ.

მათი მთავარი მოთხოვნაა, აიკრძალოს ისეთი სისტემა, რომელიც ადამიანის უშუალო და აზრიანი კონტროლის გარეშე თავად ირჩევს ადამიანებს სამიზნეებად. დამატებითი შეზღუდვები უნდა გავრცელდეს სხვა ავტონომიურ იარაღზეც, რომლის მოქმედების შედეგების წინასწარ განსაზღვრა ან შეჩერება შეუძლებელია.

დისკუსია წლებია მიმდინარეობს, მაგრამ სახელმწიფოები შეთანხმებამდე ვერ მიდიან. სამხედრო და ტექნოლოგიური უპირატესობის დაკარგვის შიში ქვეყნებს მკაცრი საერთაშორისო შეზღუდვების მიღებისგან აჩერებს.

ახლა აშშ-ისა და ჩინეთის უსაფრთხოების ექსპერტებიც კი განიხილავენ ბირთვული იარაღის კონტროლის მსგავსი მექანიზმების შექმნას. მათ შორისაა AI-ის ბირთვული მართვის სისტემებთან დაკავშირების მკაცრი შეზღუდვა, კრიტიკულ სამხედრო ოპერაციებზე ადამიანური კონტროლის შენარჩუნება და AI-ით გამოწვეული ინციდენტებისთვის სახელმწიფოებს შორის პირდაპირი საკომუნიკაციო ხაზის შექმნა.

მიზეზი მარტივია: ალგორითმებით ავტომატიზებული საპასუხო რეაქცია შეიძლება იმდენად სწრაფად განვითარდეს, რომ პოლიტიკურ და სამხედრო ხელმძღვანელებს დეესკალაციისთვის დრო აღარ დარჩეთ.

ევროპის მეორე პრობლემა — ტექნოლოგიური დამოკიდებულება

ეთიკურ და სამართლებრივ დებატთან ერთად ევროპაში სხვა კითხვაც გამწვავდა: ვის ტექნოლოგიაზე უნდა იყოს დამოკიდებული კონტინენტის თავდაცვა?

NATO-მ სამხედრო მონაცემების ანალიზისა და გადაწყვეტილებების მხარდაჭერისთვის ამერიკული კომპანია Palantir-ის Maven Smart System შეარჩია. სისტემა სხვადასხვა წყაროდან მიღებულ მონაცემებს აერთიანებს და სამხედრო ხელმძღვანელობას საერთო ოპერატიული სურათის შექმნაში ეხმარება.

ამ გადაწყვეტილებამ ევროპაში მონაცემთა სუვერენიტეტის საკითხი წამოჭრა. თუ ევროპული ქვეყნების სამხედრო დაზვერვა, დაგეგმვა და ოპერატიული მართვა ამერიკული კერძო კომპანიის პროგრამულ სისტემაზე იქნება დამოკიდებული, ვის ექნება კონტროლი მონაცემებზე, სისტემის განახლებაზე და მისი მუშაობის წესებზე?

განსაკუთრებით მნიშვნელოვანი ხდება კითხვა, შეძლებს თუ არა ევროპა ასეთი სისტემის დამოუკიდებლად გამოყენებას იმ შემთხვევაში, თუ აშშ-სა და ევროპას შორის პოლიტიკური უთანხმოება გაღრმავდება.

Thales-ის მიერ წარმოდგენილი AI-ზე დაფუძნებული სისტემა Hexaforce სწორედ ევროპულ ალტერნატივად განიხილება. კომპანია ხაზს უსვამს, რომ მისი ტექნოლოგია აშშ-ის იარაღის საერთაშორისო ვაჭრობის რეგულაციების — ITAR-ის — კონტროლს არ ექვემდებარება.

ევროპაში საკუთარ სამხედრო AI-ს ავითარებენ სხვა კომპანიებიც, მათ შორის ფრანგული Mistral AI და Comand AI. გერმანია კი ამერიკული სისტემების პარალელურად ალტერნატიულ პლატფორმებსაც განიხილავს.

სუვერენიტეტი მხოლოდ საკუთარი პროგრამის შექმნა არ არის

ევროპის ტექნოლოგიური სუვერენიტეტი ვერ შემოიფარგლება იმით, რომ ამერიკული ალგორითმი ევროპულით ჩანაცვლდეს. თუ ევროპული სისტემა იმავე გაუმჭვირვალე წესებით იმუშავებს და სამიზნეების შერჩევისას ადამიანურ კონტროლს შეამცირებს, პროგრამის წარმომავლობა ეთიკურ პრობლემას ვერ გადაწყვეტს.

სუვერენიტეტი უნდა ნიშნავდეს შესაძლებლობას, რომ სახელმწიფომ:

იცოდეს, როგორ მუშაობს გამოყენებული სისტემა;

თავად აკონტროლოს სამხედრო და სადაზვერვო მონაცემები;

დამოუკიდებლად შეამოწმოს ალგორითმის სიზუსტე და შესაძლო მიკერძოება;

უცხო კომპანიაზე დამოკიდებულების გარეშე განაახლოს ან შეაჩეროს სისტემა;

უზრუნველყოს ადამიანის რეალური კონტროლი და პასუხისმგებლობა.

ევროკავშირის AI აქტი სამოქალაქო ხელოვნური ინტელექტისთვის მკაცრ, რისკზე დაფუძნებულ წესებს ადგენს. თუმცა მხოლოდ სამხედრო, თავდაცვითი ან ეროვნული უსაფრთხოების მიზნებისთვის შექმნილი სისტემები მისი ძირითადი რეგულირების ფარგლებს გარეთ რჩება. სწორედ ამიტომ სამხედრო AI-ზე ცალკე საერთაშორისო შეთანხმების საჭიროება კიდევ უფრო მნიშვნელოვანი ხდება.

შეუძლია თუ არა AI-ს ომი უფრო ზუსტი გახადოს?

სამხედრო კომპანიები აცხადებენ, რომ AI-ს შეუძლია ადამიანზე სწრაფად დაამუშაოს ინფორმაცია, უკეთ აღმოაჩინოს საფრთხე და შეამციროს როგორც ჯარისკაცების, ისე მშვიდობიანი მოსახლეობის მსხვერპლი.

ეს შესაძლებლობა რეალურია. კარგად შემოწმებულ სისტემას შეუძლია ოპერატორს დაანახოს ის, რაც ადამიანმა უზარმაზარ მონაცემებში შეიძლება გამოტოვოს. AI შეიძლება გამოიყენონ ნაღმების აღმოსაჩენად, თავდაცვითი სისტემების სამართავად, დაჭრილების მოსაძებნად ან თავდასხმის შედეგად მოსალოდნელი სამოქალაქო ზიანის შესაფასებლად.

მაგრამ AI-ის სიზუსტე არ აუქმებს ადამიანის პასუხისმგებლობას. ალგორითმის მიერ შეთავაზებული სამიზნე ფაქტი არ არის — ეს მონაცემებზე დაფუძნებული ალბათობაა.

რაც უფრო სწრაფი და ეფექტიანი ხდება სამხედრო AI, მით უფრო მნიშვნელოვანია მკაფიო ზღვრის გავლება: მანქანას შეუძლია ინფორმაციის მოძიება, დამუშავება და რეკომენდაციის მომზადება, მაგრამ ადამიანის სიცოცხლის მოსპობის შესახებ საბოლოო გადაწყვეტილება არ უნდა მიიღოს.

წინააღმდეგ შემთხვევაში, ომი შეიძლება ტექნიკურად უფრო სწრაფი გახდეს, მაგრამ მისი დაწყება და ადამიანების მკვლელობა — პოლიტიკურად და მორალურად უფრო მარტივი.

წყაროები: Reuters — Thales საერთაშორისო AI-ჩარჩოს შექმნას ითხოვს, Reuters — აშშ-ისა და ჩინეთის ექსპერტების წინადადებები, Associated Press — გაეროსა და წითელი ჯვრის მოწოდება, ევროკომისია — ევროკავშირის მიდგომა ხელოვნური ინტელექტისადმი, წითელი ჯვრის საერთაშორისო კომიტეტი — ავტონომიური იარაღი