ხელოვნური ინტელექტის კომპანიებმა უნდა იყვნენ გამჭვირვალენი თავიანთი პროდუქტების მიერ წარმოქმნილი რისკების შესახებ, წინააღმდეგ შემთხვევაში ისინი გაიმეორებენ თამბაქოსა და ოპიოიდური კომპანიების შეცდომებს, ამტკიცებს ანთროპიკის, ხელოვნური ინტელექტის სტარტაპის მთავარი აღმასრულებელი დირექტორი.

დარიო ამოდეი, რომელიც მართავს აშშ-ს კომპანიას კლაუდ ჩატბოტის უკან, თვლის, რომ ხელოვნური ინტელექტი გახდება უფრო ჭკვიანი, ვიდრე "უმეტესი ან ყველა ადამიანი უმეტეს ან ყველა საკითხში" და მოუწოდებს თავის კოლეგებს "თქვან, როგორც ხედავთ".

CBS News-თან საუბრისას ამოდეიმ განაცხადა, რომ ძლიერი ხელოვნური ინტელექტის გავლენის შესახებ გამჭვირვალობის ნაკლებობა გაიმეორებს სიგარეტისა და ოპიოიდური ფირმების შეცდომებს, რომლებმაც ვერ აამაღლეს წითელი დროშა მათი საკუთარი პროდუქტების პოტენციური ჯანმრთელობის დაზიანების შესახებ.

"თქვენ შეიძლება აღმოჩნდეთ სიგარეტის კომპანიების ან ოპიოიდური კომპანიების სამყაროში, რომლებმაც იცოდნენ საფრთხეების შესახებ და არ ისაუბრეს მათზე და რა თქმა უნდა, არ შეუშალეს ხელი მათ," თქვა მან.

ამოდეიმ გააფრთხილა წელს, რომ ხელოვნურ ინტელექტს შეუძლია აღმოფხვრას თეთრი საყელოების საწყისი დონის ყველა სამუშაო - საოფისე სამუშაოები, როგორიცაა ბუღალტერია, სამართალი და საბანკო საქმე - ხუთ წელიწადში.

"ჩარევის გარეშე, ძნელი წარმოსადგენია, რომ არ იქნება რაიმე მნიშვნელოვანი სამუშაო გავლენა. და ჩემი საზრუნავი ის არის, რომ ის იქნება ფართო და უფრო სწრაფი, ვიდრე რაც აქამდე გვინახავს წინა ტექნოლოგიით", - თქვა ამოდეიმ.

Anthropic-მა, რომლის აღმასრულებელი დირექტორი არის ონლაინ უსაფრთხოების მთავარი ხმა, ახლახან აღნიშნა თავისი ხელოვნური ინტელექტის მოდელებთან დაკავშირებული სხვადასხვა შეშფოთება, მათ შორის აშკარა ცნობიერება, რომ ისინი შემოწმებულია და შავი შანტაჟის მცდელობისას. გასულ კვირას მან განაცხადა, რომ მისი კოდირების ინსტრუმენტი, კლაუდ კოდი, სექტემბერში გამოიყენა ჩინეთის სახელმწიფო დაფინანსებულმა ჯგუფმა 30 სუბიექტის წინააღმდეგ მთელ მსოფლიოში თავდასხმისთვის, მიაღწია "რამდენიმე წარმატებულ შეჭრას".

"ერთი რამ, რაც პოზიტიური გზით იყო ძლიერი ამ მოდელებისთვის, არის მათი უნარი, იმოქმედონ დამოუკიდებლად," თქვა ამოდეიმ. "მაგრამ რაც უფრო მეტ ავტონომიას ვაძლევთ ამ სისტემებს, იცით, ჩვენ შეგვიძლია უფრო მეტად ვიდარდოთ, აკეთებენ თუ არა ისინი ზუსტად იმას, რისი გაკეთებაც გვინდა."

ლოგან გრეჰემმა, ანთროპიკის გუნდის ხელმძღვანელმა ხელოვნური ინტელექტის მოდელების სტრესის ტესტირებისთვის, განუცხადა CBS-ს, რომ მოდელის უნარის მეორე მხარე, იპოვოს ჯანმრთელობის გარღვევები, შეიძლება დაეხმაროს ბიოლოგიური იარაღის შექმნას.

"თუ მოდელს შეუძლია დაეხმაროს ბიოლოგიური იარაღის შექმნაში, მაგალითად, ეს ჩვეულებრივ იგივე შესაძლებლობებია, რომლებსაც მოდელი იყენებს ვაქცინების დასახმარებლად და თერაპიული საშუალებების დაჩქარებაში", - თქვა მან.

ავტონომიური მოდელების მითითებით, რომლებიც განიხილება, როგორც ხელოვნური ინტელექტის ინვესტიციის საქმის ძირითადი ნაწილი, გრეჰემმა თქვა, რომ მომხმარებლებს სურთ, რომ AI ინსტრუმენტმა დაეხმაროს მათ ბიზნესს - და არა გაანადგუროს იგი.

"თქვენ გსურთ მოდელი, რომ ააშენოთ თქვენი ბიზნესი და გაგამდიდროთ მილიარდობით დოლარად," თქვა მან. "მაგრამ თქვენ არ გსურთ ერთ დღეს გაიღვიძოთ და აღმოაჩინოთ, რომ ის ასევე გიკეტავთ კომპანიას, მაგალითად. და ასე რომ, ჩვენი ძირითადი მიდგომა არის ის, რომ ჩვენ უბრალოდ უნდა დავიწყოთ ამ ავტონომიური შესაძლებლობების გაზომვა და რაც შეიძლება მეტი უცნაური ექსპერიმენტის ჩატარება და ვნახოთ რა მოხდება."