ხალხი საფრთხის წინაშე დგას Google-ის ხელოვნური ინტელექტის შეჯამებებში არსებული ყალბი და შეცდომაში შემყვანი ჯანმრთელობის ინფორმაციის გამო, როგორც The Guardian-ის გამოძიებამ დაადგინა.

კომპანიამ განაცხადა, რომ მისი AI Overviews, რომლებიც იყენებენ გენერაციულ AI-ს თემის ან კითხვის შესახებ არსებითი ინფორმაციის შესახებ, არის "სასარგებლო" და "სანდო".

მაგრამ ზოგიერთი შეჯამება, რომლებიც ჩნდება ძიების შედეგების ზედა ნაწილში, აწვდიდა არაზუსტ ინფორმაციას ჯანმრთელობის შესახებ და აყენებდა ადამიანებს საფრთხის წინაშე.

ერთ შემთხვევაში, რომელიც ექსპერტებმა აღწერეს, როგორც "ნამდვილად საშიში", გუგლმა არასწორი რჩევა მისცა პანკრეასის კიბოს მქონე ადამიანებს, თავი აარიდონ ცხიმიან საკვებს. ექსპერტებმა თქვეს, რომ ეს იყო ზუსტი საპირისპირო იმისა, რაც უნდა იყოს რეკომენდებული და შესაძლოა გაზარდოს პაციენტების დაავადებისგან სიკვდილის რისკი.

კიდევ ერთ "საშიშ" მაგალითში, კომპანიამ მიაწოდა ყალბი ინფორმაცია ღვიძლის ფუნქციის ტესტების შესახებ, რამაც შეიძლება სერიოზული ღვიძლის დაავადების მქონე ადამიანებს არასწორად იფიქრონ, რომ ისინი ჯანმრთელები არიან.

Google-ის ძიებებმა ქალების კიბოს ტესტების პასუხების შესახებ ასევე მიაწოდა "სრულიად არასწორი" ინფორმაცია, რაც ექსპერტების თქმით, შეიძლება გამოიწვიოს ადამიანებმა უარყონ რეალური სიმპტომები.

Google-ის სპიკერმა თქვა, რომ მათ მიერ გაზიარებული ჯანმრთელობის მრავალი მაგალითი იყო "არასრული ეკრანის ანაბეჭდები", მაგრამ იმის მიხედვით, რისი შეფასებაც მათ შეეძლოთ, ისინი უკავშირდებოდნენ "კარგად ცნობილ, სანდო წყაროებს და რეკომენდაციას უწევენ ექსპერტის რჩევის მოძიებას".

The Guardian-ის გამოძიება ხდება მზარდი შეშფოთების ფონზე, რომ ხელოვნური ინტელექტის მონაცემებს შეუძლია დააბნიოს მომხმარებლები, რომლებმაც შეიძლება ივარაუდონ, რომ ის სანდოა. გასული წლის ნოემბერში ჩატარებულმა კვლევამ აჩვენა, რომ AI ჩატბოტები სხვადასხვა პლატფორმაზე აწვდიდნენ არაზუსტ ფინანსურ რჩევას, ხოლო მსგავსი შეშფოთება გამოითქვა ახალი ამბების ისტორიების შეჯამებების შესახებ.

სოფი რენდალმა, პაციენტის ინფორმაციის ფორუმის დირექტორმა, რომელიც ხელს უწყობს მტკიცებულებებზე დაფუძნებულ ჯანმრთელობის ინფორმაციას პაციენტებისთვის, საზოგადოებისთვის და ჯანდაცვის პროფესიონალებისთვის, თქვა, რომ მაგალითები აჩვენებდა, რომ "გუგლის AI Overviews-ს შეუძლია არაზუსტი ჯანმრთელობის ინფორმაცია განათავსოს ონლაინ ძიებების ზედა ნაწილში, რაც საფრთხეს უქმნის ადამიანების ჯანმრთელობას".

სტივენ პარკერმა, ციფრული დირექტორი მარი კურიში, სიცოცხლის დასასრულის საქველმოქმედო ორგანიზაციაში, თქვა: "ხალხი ინტერნეტში ეძებს შფოთვისა და კრიზისის მომენტებში. თუ მათ მიერ მიღებული ინფორმაცია არაზუსტი ან კონტექსტიდან ამოვარდნილია, ამან შეიძლება სერიოზულად დააზიანოს მათი ჯანმრთელობა."

The Guardian-მა გამოავლინა რამდენიმე შემთხვევა არაზუსტი ჯანმრთელობის ინფორმაციის შესახებ Google-ის AI Overviews-ში მას შემდეგ, რაც რამდენიმე ჯანდაცვის ჯგუფმა, საქველმოქმედო ორგანიზაციამ და პროფესიონალმა გამოთქვა შეშფოთება.

ანა ჯუელმა, პანკრეასის კიბოს გაერთიანებული სამეფოს მხარდაჭერის, კვლევისა და გავლენის დირექტორმა, თქვა, რომ პაციენტებისთვის ცხიმიანი საკვების თავიდან აცილება "სრულიად არასწორი" იყო. ამის გაკეთება "შეიძლება იყოს ძალიან საშიში და საფრთხე შეუქმნას ადამიანის შანსებს, იყოს საკმარისად ჯანმრთელი მკურნალობისთვის", დასძინა მან.

ჯუელმა თქვა: "გუგლის AI პასუხი ვარაუდობს, რომ პანკრეასის კიბოს მქონე ადამიანებმა თავი აარიდონ ცხიმიან საკვებს და იძლევა მაგალითების ჩამონათვალს. თუმცა, თუ ვინმე მიჰყვებოდა იმას, რასაც ძიების შედეგი ეუბნებოდა, მაშინ მათ შეიძლება არ მიიღონ საკმარისი კალორია, გაუჭირდეთ წონის მომატება და ვერ გაუძლონ ქიმიოთერაპიას ან პოტენციურად სიცოცხლის გადამრჩენ ოპერაციას."

"რა არის ღვიძლის სისხლის ტესტების ნორმალური დიაპაზონი" აკრეფამ ასევე მიაწოდა შეცდომაში შემყვანი ინფორმაცია, მასებთან რიცხვებით, მცირე კონტექსტით და პაციენტების ეროვნების, სქესის, ეთნიკური წარმომავლობის ან ასაკის აღრიცხვის გარეშე.

პამელა ჰეიილმა, ღვიძლის ბრიტანეთის ნდობის აღმასრულებელმა დირექტორმა, თქვა, რომ AI შეჯამებები შემაშფოთებელი იყო. "ბევრ ადამიანს, ვისაც ღვიძლის დაავადება აქვს, სიმპტომები არ აქვს გვიან ეტაპებამდე, რის გამოც ძალიან მნიშვნელოვანია, რომ მათ შეამოწმონ. მაგრამ ის, რასაც გუგლის AI Overviews ამბობს, რომ არის "ნორმალური", შეიძლება მკვეთრად განსხვავდებოდეს იმისგან, რაც რეალურად ითვლება ნორმალურად.

"ეს საშიშია, რადგან ეს ნიშნავს, რომ ზოგიერთ ადამიანს სერიოზული ღვიძლის დაავადებით შეიძლება ეგონოს, რომ მათ აქვთ ნორმალური შედეგი, შემდეგ კი არ შეწუხდნენ შემდგომი ჯანდაცვის შეხვედრისთვის."

"ვაგინალური კიბოს სიმპტომები და ტესტების" ძიებამ ჩამოთვალა პაპ ტესტი, როგორც ვაგინალური კიბოს ტესტი, რაც არასწორია.

ათენა ლამნისოსმა, კიბოს საქველმოქმედო ორგანიზაციის Eve Appeal-ის აღმასრულებელმა დირექტორმა, თქვა: "ეს არ არის ტესტი კიბოს გამოსავლენად და რა თქმა უნდა არ არის ტესტი ვაგინალური კიბოს გამოსავლენად - ეს არის სრულიად არასწორი ინფორმაცია. არასწორი ინფორმაციის მიღებამ, როგორიცაა ეს, შესაძლოა გამოიწვიოს ვინმემ არ შეამოწმოს ვაგინალური კიბოს სიმპტომები, რადგან მათ ჰქონდათ მკაფიო შედეგი ბოლოდროინდელ საშვილოსნოს ყელის სკრინინგზე.

"ჩვენ ასევე შეშფოთებული ვიყავით იმ ფაქტით, რომ AI შეჯამება იცვლებოდა, როდესაც ჩვენ ზუსტად იგივე ძიება გავაკეთეთ, მივიღეთ განსხვავებული პასუხი, რომელიც იღებდა სხვადასხვა წყაროდან. ეს ნიშნავს, რომ ადამიანები იღებენ განსხვავებულ პასუხს იმისდა მიხედვით, თუ როდის ეძებენ, და ეს არ არის საკმარისი."

ლამნისოსმა თქვა, რომ ის ძალიან შეშფოთებული იყო. "ზოგიერთი შედეგი, რომელიც ჩვენ ვნახეთ, ნამდვილად შემაშფოთებელია და პოტენციურად შეიძლება ქალები საფრთხეში ჩააგდოს", - თქვა მან.

The Guardian-მა ასევე აღმოაჩინა, რომ Google AI Overviews აწვდიდა შეცდომაში შემყვან შედეგებს ფსიქიკური ჯანმრთელობის მდგომარეობის შესახებ. "ეს ჩვენთვის დიდი შეშფოთებაა, როგორც საქველმოქმედო ორგანიზაცია", - თქვა სტივენ ბაკლიმ, ინფორმაციის ხელმძღვანელმა Mind-ში.

ზოგიერთი AI შეჯამება ისეთი პირობებისთვის, როგორიცაა ფსიქოზი და კვების დარღვევები, სთავაზობდა "ძალიან საშიშ რჩევას" და იყო "არასწორი, მავნე ან შეიძლება გამოიწვიოს ადამიანებმა დახმარების თავიდან აცილება", - თქვა ბაკლიმ.

ზოგიერთმა ასევე გამოტოვა მნიშვნელოვანი კონტექსტი ან ნიუანსი, დასძინა მან. "მათ შეიძლება შემოგთავაზონ ინფორმაციის წვდომა არასათანადო საიტებიდან... და ჩვენ ვიცით, რომ როდესაც AI აჯამებს ინფორმაციას, მას ხშირად შეუძლია ასახოს არსებული მიკერძოება, სტერეოტიპები ან სტიგმატიზებული ნარატივები."

Google-მა განაცხადა, რომ მისი AI Overviews-ის უმრავლესობა იყო ფაქტობრივი და სასარგებლო და ის მუდმივად აკეთებდა ხარისხის გაუმჯობესებას. AI Overviews-ის სიზუსტის მაჩვენებელი იყო მისი სხვა საძიებო ფუნქციების დონეზე, როგორიცაა გამორჩეული ფრაგმენტები, რომლებიც არსებობდა ათ წელზე მეტი ხნის განმავლობაში, დასძინა მან.

კომპანიამ ასევე განაცხადა, რომ როდესაც AI Overviews არასწორად განმარტავდა ვებ კონტენტს ან გამოტოვებდა კონტექსტს, ის მიიღებდა შესაბამის ზომებს თავისი პოლიტიკის შესაბამისად.

Google-ის სპიკერმა თქვა: "ჩვენ დიდ ინვესტიციას ვახორციელებთ AI Overviews-ის ხარისხში, განსაკუთრებით ისეთ თემებში, როგორიცაა ჯანმრთელობა და მათი უმრავლესობა უზრუნველყოფს ზუსტ ინფორმაციას."