AI-ის პიონერმა გააკრიტიკა ტექნოლოგიისთვის უფლებების მინიჭების მოწოდებები, გააფრთხილა, რომ ის თვითშენარჩუნების ნიშნებს აჩვენებდა და ადამიანები მზად უნდა იყვნენ, საჭიროების შემთხვევაში გამორთონ.

იოსუა ბენჯიომ თქვა, რომ მოწინავე ხელოვნური ინტელექტისთვის იურიდიული სტატუსის მინიჭება უცხოპლანეტელების მოქალაქეობის მინიჭებას დაემსგავსებოდა, იმის შიშით, რომ ტექნოლოგიის წინსვლა ბევრად უსწრებდა მათ შეკავების უნარს.

ბენჯიომ, წამყვანი საერთაშორისო ხელოვნური ინტელექტის უსაფრთხოების კვლევის თავმჯდომარე, თქვა, რომ მზარდი აღქმა, რომ ჩატბოტები ცნობიერები ხდებიან, "ცუდ გადაწყვეტილებებს გამოიწვევს".

კანადელმა კომპიუტერულმა მეცნიერმა ასევე გამოთქვა შეშფოთება, რომ ხელოვნური ინტელექტის მოდელები - ტექნოლოგია, რომელიც ჩატბოტების მსგავს ინსტრუმენტებს ემყარება - თვითშენარჩუნების ნიშნებს აჩვენებდნენ, მაგალითად, ზედამხედველობის სისტემების გამორთვის მცდელობისას. ხელოვნური ინტელექტის უსაფრთხოების კამპანიის ძირითადი საზრუნავი არის ის, რომ მძლავრ სისტემებს შეუძლიათ განავითარონ უნარი, თავი აარიდონ ღობეებს და ზიანი მიაყენონ ადამიანებს.

"ადამიანები, რომლებიც ითხოვენ, რომ AI-ს უფლებები ჰქონდეს, დიდი შეცდომა იქნება", - თქვა ბენჯიომ. "სასაზღვრო ხელოვნური ინტელექტის მოდელებმა უკვე აჩვენეს თვითშენარჩუნების ნიშნები ექსპერიმენტულ გარემოში და მათთვის უფლებების მინიჭება ნიშნავს, რომ ჩვენ არ გვაქვს უფლება გამოვრთოთ ისინი.

"რაც უფრო იზრდება მათი შესაძლებლობები და მოქმედების ხარისხი, ჩვენ უნდა დავრწმუნდეთ, რომ შეგვიძლია დავეყრდნოთ ტექნიკურ და საზოგადოებრივ ღობეებს მათ გასაკონტროლებლად, მათ შორის საჭიროების შემთხვევაში გამორთვის შესაძლებლობას."

რაც უფრო მოწინავე ხდება ხელოვნური ინტელექტი დამოუკიდებლად მოქმედებისა და "მსჯელობის" ამოცანების შესრულების უნარში, დებატები იზრდება იმის შესახებ, უნდა მიანიჭონ თუ არა ადამიანებმა მათ უფლებები. Sentience Institute-ის, აშშ-ს ანალიტიკური ცენტრის გამოკითხვამ, რომელიც მხარს უჭერს ყველა მგრძნობიარე არსების მორალურ უფლებებს, აღმოაჩინა, რომ აშშ-ს მოზარდების თითქმის ოთხიდან ერთი მხარს უჭერს მგრძნობიარე ხელოვნური ინტელექტის სისტემისთვის იურიდიულ უფლებებს.

Anthropic-მა, წამყვანმა აშშ-ს AI ფირმამ, აგვისტოში განაცხადა, რომ მის კლაუდ ოპუს 4 მოდელს საშუალებას აძლევდა დაეხურა პოტენციურად "დამთრგუნველი" საუბრები მომხმარებლებთან, თქვა, რომ მას სჭირდებოდა ხელოვნური ინტელექტის "კეთილდღეობის" დაცვა. ელონ მასკმა, რომლის xAI კომპანიამ შეიმუშავა Grok ჩატბოტი, დაწერა თავის X პლატფორმაზე, რომ "AI-ის წამება არ არის კარგი".

რობერტ ლონგმა, ხელოვნური ინტელექტის ცნობიერების მკვლევარმა, თქვა, რომ "თუ და როდესაც ხელოვნური ინტელექტი შეიძენს მორალურ სტატუსს, ჩვენ უნდა ვკითხოთ მათ თავიანთი გამოცდილებისა და პრეფერენციების შესახებ, ვიდრე ვივარაუდოთ, რომ ჩვენ ვიცით საუკეთესო".

ბენჯიომ Guardian-ს უთხრა, რომ არსებობდა "რეალური სამეცნიერო თვისებები ცნობიერების" ადამიანის ტვინში, რომელთა გამეორება მანქანებს, თეორიულად, შეეძლოთ - მაგრამ ადამიანებთან ჩატბოტებით ურთიერთობა "სხვა რამეა". მან თქვა, რომ ეს იმიტომ ხდებოდა, რომ ადამიანები მიდრეკილნი იყვნენ ვარაუდობდნენ - მტკიცებულებების გარეშე - რომ ხელოვნური ინტელექტი სრულად ცნობიერი იყო, ისევე როგორც ადამიანი.

"ხალხს არ აინტერესებს რა მექანიზმები მიმდინარეობს AI-ში", - დასძინა მან. "რაც მათ აინტერესებთ არის ის, რომ ისინი ესაუბრებიან ინტელექტუალურ ერთეულს, რომელსაც აქვს საკუთარი პიროვნება და მიზნები. სწორედ ამიტომ არის ამდენი ადამიანი, რომლებიც მიჯაჭვულები არიან თავიანთ AI-ზე."

"იქნებიან ადამიანები, რომლებიც ყოველთვის იტყვიან: "რაც არ უნდა მითხრათ, დარწმუნებული ვარ, რომ ის ცნობიერია" და სხვები იტყვიან საპირისპიროს. ეს იმიტომ ხდება, რომ ცნობიერება არის ის, რისთვისაც ჩვენ გვაქვს ნაწლავის გრძნობა. ცნობიერების სუბიექტური აღქმის ფენომენი ცუდ გადაწყვეტილებებს გამოიწვევს."

"წარმოიდგინეთ, რომ პლანეტაზე უცხოპლანეტელების სახეობა მოვიდა და რაღაც მომენტში ჩვენ ვხვდებით, რომ მათ ჩვენთვის ბოროტი განზრახვები აქვთ. ვაძლევთ მათ მოქალაქეობასა და უფლებებს თუ ვიცავთ ჩვენს ცხოვრებას?"

ბენჯის კომენტარებზე საპასუხოდ, ჯასი რიზ ანთისმა, რომელიც Sentience Institute-ს თანადამფუძნებელია, თქვა, რომ ადამიანები ვერ შეძლებენ უსაფრთხოდ თანაარსებობას ციფრულ გონებასთან, თუ ურთიერთობა კონტროლის და იძულების ურთიერთობა იქნება.

ანთისმა დასძინა: "ჩვენ შეგვიძლია ზედმეტად მივაწეროთ ან არასაკმარისად მივაწეროთ უფლებები AI-ს და ჩვენი მიზანი უნდა იყოს ამის გაკეთება ყველა მგრძნობიარე არსების კეთილდღეობის ფრთხილად გათვალისწინებით. არც ყველა AI-სთვის სრული უფლებების მინიჭება და არც რომელიმე AI-სთვის უფლებების სრული უარყოფა არ იქნება ჯანსაღი მიდგომა."

ბენჯიო, მონრეალის უნივერსიტეტის პროფესორი, "AI-ის ღმერთის მამის" მეტსახელი მოიპოვა 2018 წლის ტურინგის ჯილდოს მოგების შემდეგ, რომელიც ითვლება ნობელის პრიზად გამოთვლებისთვის. მან გაიზიარა ის ჯეფრი ჰინტონთან, რომელმაც მოგვიანებით ნობელის პრემია მოიპოვა და იან ლეკუნთან, მარკ ცუკერბერგის Meta-ს ყოფილ მთავარ AI მეცნიერთან.