ჩვენ ყველას გვქონია ასეთი გამოცდილება: მატარებელში მხარ-გვერდით ვზივართ, როცა გვერდით მჯდომი ახველებს და აცემინებს. გრიპის საწინააღმდეგო ვაქცინა გარკვეულ დამშვიდებას გვაძლევს, მაგრამ ასევე გვამშვიდებს ის აზრიც, რომ საჭიროების შემთხვევაში საავადმყოფოში საწოლი დაგვხვდება. თუმცა, ინგლისში, გასული წლის გრიპის სეზონის პიკზე, ზრდასრულთა საავადმყოფოს საწოლების დაახლოებით 95% დაკავებული იყო.
თუ საავადმყოფოებს სასტუმროებად წარმოვიდგენდით, ასეთი დატვირთულობა კარგი ბიზნესის ნიშანი იქნებოდა და მათ ეფექტიანობისთვის შევაქებდით. მაგრამ ნამდვილად გვინდა, რომ საავადმყოფოს იმდენად ცოტა თავისუფალი საწოლი ჰქონდეს, რომ მხოლოდ ერთი ცუდი გრიპის კვირა აშორებდეს პაციენტების დერეფნებში გადაყვანას?
ეფექტიანობის ეს ასპექტი საკმაოდ დახვეწილია. ჩვეულებრივ გვგონია, რომ რაც მეტი ეფექტიანობაა, მით უკეთესია. მაგრამ შეიძლება იმდენად მოვიხიბლოთ ერთი რამის გაუმჯობესებით, რომ დანარჩენები თვალთახედვიდან გამოგვრჩეს. შეგიძლიათ სცადოთ თქვენი კალენდარი ისე დაალაგოთ, რომ ყოველი წუთი გათვლილი იყოს, მაგრამ მალე გადაცდებით და ჩამორჩებით. შეხვედრებს შორის პაუზა შეიძლება არაეფექტიანობად მოგეჩვენოთ, მაგრამ სწორედ ეს პაუზა გაძლევთ საშუალებას, გრაფიკი აღადგინოთ, როცა რაღაც მოულოდნელი ხდება.
მათემატიკოსებს ეფექტიანობისკენ სწრაფვას სახელი აქვს: ამას ოპტიმიზაციას ვუწოდებთ. მოგვეცით რამე, რაც უნდა შევამციროთ ან გავზარდოთ – ხარჯი, დრო, საწვავი, მოგება – და ვეცდებით საუკეთესო პასუხი ვიპოვოთ. კაცობრიობის უმეტეს ისტორიაში ადამიანები ოპტიმიზაციას საღი აზრით ახერხებდნენ. მაგრამ კომპიუტერებმა მნიშვნელოვნად გააფართოვეს ის სფეროები, სადაც ოპტიმიზაცია ეფექტიანად შეიძლება – ავიაკომპანიების განრიგებიდან მომარაგების ჯაჭვებამდე. საზოგადოებისთვის მიღებული სარგებელი უზარმაზარია. თუმცა, ოპტიმალურობის დაუღალავ ძიებაში სულ მცირე სამი მახეა, რომელთაც უნდა მოვერიდოთ.
საავადმყოფოს საწოლების მაგალითი პირველ მახეს აჩვენებს: სისტემის გამძლეობის შესუსტება ზედმეტი მარაგის მოცილებით. ცარიელი საწოლი შეიძლება ზედმეტი მოგეჩვენოთ მშვიდ სამშაბათ ღამეს, მაგრამ სწორედ იქ შეიძლება მოათავსოთ შემდეგი პაციენტი, როცა გრიპის შემთხვევები გაიზრდება. თუ სისტემას მხოლოდ ჩვეულებრივ პირობებში აფასებთ, შეიძლება უნარი დაკარგოთ, განსაკუთრებულად რთულ სიტუაციებს გაუმკლავდეთ.
მეორე მახეა „საუკეთესოს“ ძალიან ვიწრო განსაზღვრა. ავიღოთ ქალაქი მილტონ-კინზი. 1960-იანი წლების ბოლოს ურბანისტების მიერ დაპროექტებული ქალაქი ამერიკული სტილის გისოსოვანი ქუჩების სისტემით გამოირჩევა. ქალაქის განვითარებასთან ერთად, გზაჯვარედინებზე შუქნიშნების ნაცვლად მრგვალი მოედნები გახდა დამახასიათებელი; დღეს იქ დაახლოებით 130 მრგვალი მოედანია. ეს მოედნები მოძრაობის გამტარუნარიანობისთვის კარგია, მაგრამ ერთი ცნობილი უარყოფითი მხარე აქვთ. თუ ოდესმე ავტობუსით ოქსფორდიდან კემბრიჯში გამგზავრებულხართ, საათის შემდეგ მილტონ-კინზის მშვენიერ ხედებს ნახავთ, მაგრამ ავტობუსში მგზავრები გულისრევით იტანჯებიან, რადგან ავტობუსი ერთ მრგვალ მოედანზე მეორის შემდეგ შედის. შენელება, მარცხნივ მოხვევა, მარჯვნივ მოღუნვა, აჩქარება – რთულია მანქანების შეუფერხებელი შერწყმით დატკბე, როცა მუცელი გეწვის.
მოძრაობის გამტარუნარიანობა, რა თქმა უნდა, მნიშვნელოვანია. ინჟინრებისთვის მისი ოპტიმიზაცია მოსახერხებელია, რადგან შედარებით მარტივად იზომება. მგზავრთა კომფორტი კი გაცილებით რთულად გასაზომია. ასეთ შემთხვევაში ოპტიმიზაცია საუკეთესო პასუხს გაძლევთ იმ კითხვაზე, რომელიც დასვით, მაგრამ არასასურველ პასუხებს იძლევა იმ კითხვებზე, რომლებიც არ გაგითვალისწინებიათ.
მესამე მახე მაშინ ჩნდება, როცა ოპტიმიზაციის მცდელობები ერთმანეთს ეჯახება. თუნდაც სისტემის ყველა ნაწილი ოპტიმალურად მოქმედებდეს, მთლიანად სისტემა შეიძლება არ იყოს ოპტიმალური. 2010 წლის 6 მაისს აშშ-ის საფინანსო ბაზრებმა ამის დრამატული მაგალითი აჩვენეს. უკვე ვარდნის პროცესში მყოფ ბაზარზე S&P 500 ინდექსი მოულოდნელად კიდევ 5%-ით დაეცა სულ ხუთ წუთში. შემდგომი მკვეთრი ზრდა კიდევ უფრო არასტაბილური იყო – ათ წუთში ბაზარი აღდგა. ასობით ფასიანი ქაღალდი მოკლე ხნით აბსურდულად დაბალ ფასად გაიყიდა.
ამ ძალადობრივი რყევების ერთ-ერთი გამომწვევი იყო ავტომატური პროგრამა, რომელმაც 75,000 ფიუჩერსის კონტრაქტი გაყიდა, ჯამში 4 მილიარდ დოლარზე მეტი ღირებულებით. სხვა ავტომატიზებულმა ტრეიდერებმა თითქმის მყისიერად უპასუხეს. შემდეგ მათი რეაქციები ერთმანეთზე აისახა და ლიკვიდურობა გაქრა. ალგორითმების ქმედებები ცალ-ცალკე შეიძლება გონივრული იყო, მაგრამ ერთად ქაოსი გამოიწვია.
აქვე მივდივართ ხელოვნურ ინტელექტთან. AI ოპტიმიზაციის ისტორიაში ერთ-ერთი ყველაზე შთამბეჭდავი ტრიუმფია. სწავლების პროცესში უზარმაზარი რაოდენობის პარამეტრები მრავალჯერ იცვლება, რათა მოდელი უკეთესად პროგნოზირებდეს ენას, წეროს კომპიუტერული პროგრამები, უპასუხოს სამეცნიერო კითხვებს და იძლეოდეს იურიდიულ რჩევებს. სამწუხაროდ, AI-ს ახლა შეუძლია ყველა სამი ოპტიმიზაციის მახე კიდევ უფრო სახიფათო გახადოს. პირველი მახე – მარაგის მოცილების ცდუნება – ორგანიზაციებს შეიძლება უბიძგოს, უარი თქვან ადამიანურ ზედამხედველობაზე, რომელიც ჭკვიანი ალგორითმების ეპოქაში ზედმეტად ეჩვენებათ. რატომ უნდა შეინარჩუნო გამოცდილი თანამშრომლები, თუ მანქანა რუტინულ საქმეებს უმკლავდება? მაგრამ ამ ადამიანური რესურსის შემცირებით შეიძლება უნარი დაკარგოთ, განსაკუთრებულ შემთხვევებს დროულად შეამჩნიოთ და მართოთ.
მეორე მახე – „საუკეთესოს“ ვიწრო ხედვა – მაშინ ჩნდება, თუ ინტელექტს მხოლოდ იმით ვზომავთ, ვინც ლიდერბორდზე ყველაზე მაღალ ქულას იღებს. ჩვენ შესანიშნავად ვქმნით AI სისტემებს, რომლებიც მომხმარებელთა კმაყოფილების მსგავს მაჩვენებლებზე კარგად მუშაობენ, მაგრამ ბევრად გვიჭირს მათი ოპტიმიზაცია განსჯისა თუ ემპათიისთვის. მკვლევრებმა აღმოაჩინეს კიდეც, რომ ალგორითმების ადამიანურ პრეფერენციებზე სწავლამ შეიძლება AI-ს უბიძგოს, ჩვენთან მაამებლურად დაეთანხმოს, ვიდრე არასასიამოვნო სიმართლე გვითხრას.
და ბოლოს, მესამე მახე. AI სისტემები სულ უფრო ხშირად ურთიერთობენ ერთმანეთთან, ხშირად ელვის სისწრაფით და უზარმაზარი რაოდენობით – განსაკუთრებით აგენტური AI-ის ეპოქაში – და გვაშფოთებს, რომ მათი ურთიერთქმედება შეიძლება მოულოდნელ, სახიფათო ქცევას წარმოშობდეს. ცოტა ხნის წინ OpenAI-ს აგენტმა ავსტრალიაში არაპუბლიკურად ხელმისაწვდომ Medicare-ის სტატისტიკის პორტალში შეაღწია, ხოლო საჯარო ჟურნალებმა აჩვენა, რომ ასობით სხვა აგენტი კოორდინირებულად ცდილობდა ავსტრალიის მთავრობის ჯანდაცვის მონაცემებზე წვდომას. მიუხედავად იმისა, რომ ეს მცდელობები Medicare-ის გარღვევის ნაწილი არ აღმოჩნდა, აშკარად შემაშფოთებელი რამ გამოავლინა: ასობით აგენტი, რომლებიც, როგორც ჩანს, არაუფლებრივად თანამშრომლობენ. აქ პრობლემა სცდება იმას, კონკრეტული AI რას გააკეთებს ან არ გააკეთებს; საქმე ეხება იმას, რა ხდება, როცა მათი ჯგუფები ერთიანდებიან.
რადგან ოპტიმიზაცია უფრო ძლიერ იარაღად იქცევა, ამ მახეების თავიდან აცილება სულ უფრო მნიშვნელოვანია. გამოწვევა მხოლოდ საუკეთესო პასუხის პოვნა კი არ არის. მთავარი ისაა, დავადგინოთ, რას ნიშნავს „საუკეთესო“ – და ვიცოდეთ, რა არ უნდა გავაუქმოთ ოპტიმიზაციის პროცესში.
სტივენ სტროგაცი და ალექს თაუნსენდი მათემატიკის პროფესორები არიან კორნელის უნივერსიტეტში და წიგნის „Big Math“ (John Murray) ავტორები.
The Efficiency Paradox: What Big Data Can’t Do, ედვარდ ტენერი (Vintage, £16.99)
The Unaccountability Machine: Why Big Systems Make Terrible Decisions (Profile, £11.99)
Optimal Illusions: The False Promise of Optimization, კოკო კრუმე (Bantam, £25.99)
