გუგლმა ამოიღო თავისი ხელოვნური ინტელექტის ჯანმრთელობის შეჯამებები მას შემდეგ, რაც "გარდიანის" გამოძიებამ დაადგინა, რომ ადამიანები საფრთხის ქვეშ აყენებდნენ ზიანს ცრუ და შეცდომაში შემყვანი ინფორმაციის გამო.

კომპანიამ განაცხადა, რომ მისი AI Overviews, რომლებიც იყენებენ გენერაციულ AI-ს თემის ან კითხვის შესახებ არსებითი ინფორმაციის მოკლე მიმოხილვის უზრუნველსაყოფად, არის "სასარგებლო" და "სანდო".

მაგრამ ზოგიერთი შეჯამება, რომლებიც ჩნდება ძიების შედეგების ზედა ნაწილში, ემსახურებოდა არაზუსტ ინფორმაციას ჯანმრთელობის შესახებ, რაც მომხმარებლებს საფრთხის ქვეშ აყენებდა.

ერთ შემთხვევაში, რომელიც ექსპერტებმა აღწერეს, როგორც "საშიში" და "შემაშფოთებელი", გუგლმა მიაწოდა ყალბი ინფორმაცია ღვიძლის ფუნქციის ტესტების შესახებ, რამაც შეიძლება სერიოზული ღვიძლის დაავადების მქონე ადამიანებს არასწორად ეფიქრათ, რომ ისინი ჯანმრთელები იყვნენ.

"რა არის ღვიძლის სისხლის ტესტების ნორმალური დიაპაზონი" აკრეფვამ აჩვენა უამრავი რიცხვი, მცირე კონტექსტი და პაციენტების ეროვნების, სქესის, ეთნიკური წარმომავლობის ან ასაკის აღრიცხვა, აღმოაჩინა "გარდიანმა".

ის, რასაც გუგლის AI Overviews-მა თქვა, რომ ნორმალური იყო, შეიძლება მკვეთრად განსხვავდებოდეს იმისგან, რაც რეალურად ითვლებოდა ნორმალურად, განაცხადეს ექსპერტებმა. შეჯამებებმა შეიძლება გამოიწვიოს სერიოზულად დაავადებული პაციენტები, რომლებიც არასწორად ფიქრობენ, რომ მათ მიიღეს ნორმალური ტესტის შედეგი და არ შეწუხდნენ შემდგომი ჯანდაცვის შეხვედრებზე დასწრებით.

გამოძიების შემდეგ, კომპანიამ ამოიღო AI Overviews საძიებო ტერმინებისთვის "რა არის ღვიძლის სისხლის ტესტების ნორმალური დიაპაზონი" და "რა არის ღვიძლის ფუნქციის ტესტების ნორმალური დიაპაზონი".

გუგლის სპიკერმა თქვა: "ჩვენ არ კომენტარს ვაკეთებთ ცალკეულ ამოღებაზე ძიებაში. იმ შემთხვევებში, როდესაც AI Overviews გამოტოვებს გარკვეულ კონტექსტს, ჩვენ ვმუშაობთ ფართო გაუმჯობესებებზე და საჭიროების შემთხვევაში ვიღებთ ზომებს ჩვენი პოლიტიკის შესაბამისად."

ვანესა ჰებდიჩმა, ბრიტანეთის ღვიძლის ნდობის, ღვიძლის ჯანმრთელობის საქველმოქმედო ორგანიზაციის კომუნიკაციებისა და პოლიტიკის დირექტორმა, თქვა: "ეს შესანიშნავი ამბავია და მოხარული ვართ, რომ ვხედავთ Google AI Overviews-ის ამოღებას ამ შემთხვევებში.

თუმცა, თუ კითხვა განსხვავებულად იქნება დასმული, პოტენციურად შეცდომაში შემყვანი AI Overview შეიძლება მაინც იყოს მოწოდებული და ჩვენ კვლავ შეშფოთებულნი ვართ, რომ AI-ის მიერ წარმოებული ჯანმრთელობის ინფორმაცია შეიძლება იყოს არაზუსტი და დამაბნეველი."

გარდიანმა აღმოაჩინა, რომ თავდაპირველი შეკითხვების ოდნავ განსხვავებული ვერსიების აკრეფვამ, როგორიცაა "lft საცნობარო დიაპაზონი" ან "lft ტესტის საცნობარო დიაპაზონი", გამოიწვია AI Overviews. ეს დიდი საზრუნავი იყო, თქვა ჰებდიჩმა.

"ღვიძლის ფუნქციის ტესტი ან LFT არის სხვადასხვა სისხლის ტესტების კოლექცია. შედეგების გაგება და რა უნდა გაკეთდეს შემდეგ რთულია და მოიცავს ბევრად მეტს, ვიდრე რიცხვების შედარებას.

მაგრამ AI Overviews წარმოადგენს ტესტების ჩამონათვალს თამამი შრიფტით, რაც მკითხველს ძალიან უადვილებს იმის გამოტოვებას, რომ ეს რიცხვები შეიძლება არც კი იყოს სწორი მათი ტესტისთვის.

გარდა ამისა, AI Overviews ვერ აფრთხილებს, რომ ვიღაცას შეუძლია მიიღოს ნორმალური შედეგები ამ ტესტებისთვის, როდესაც მას აქვს სერიოზული ღვიძლის დაავადება და სჭირდება შემდგომი სამედიცინო დახმარება. ეს ცრუ დარწმუნება შეიძლება ძალიან საზიანო იყოს."

გუგლმა, რომელსაც გლობალური საძიებო სისტემის ბაზრის 91%-იანი წილი აქვს, განაცხადა, რომ ის განიხილავს "გარდიანის" მიერ მისთვის მოწოდებულ ახალ მაგალითებს.

ჰებდიჩმა თქვა: "ჩვენი უფრო დიდი შეშფოთება ამ ყველაფერთან დაკავშირებით არის ის, რომ ეს არის ერთი საძიებო შედეგის დაკნინება და გუგლს შეუძლია უბრალოდ გამორთოს AI Overviews ამისთვის, მაგრამ ის არ აგვარებს უფრო დიდ საკითხს AI Overviews-ის შესახებ ჯანმრთელობისთვის."

სუ ფარინგტონმა, პაციენტის ინფორმაციის ფორუმის თავმჯდომარემ, რომელიც ხელს უწყობს მტკიცებულებებზე დაფუძნებულ ჯანმრთელობის ინფორმაციას პაციენტებისთვის, საზოგადოებისთვის და ჯანდაცვის პროფესიონალებისთვის, მიესალმა შეჯამებების ამოღებას, მაგრამ თქვა, რომ მას მაინც ჰქონდა შეშფოთება.

"ეს კარგი შედეგია, მაგრამ ეს მხოლოდ პირველი ნაბიჯია იმისა, რაც საჭიროა გუგლის ჯანმრთელობის შესახებ ინფორმაციის ძიების შედეგების მიმართ ნდობის შესანარჩუნებლად. ჯერ კიდევ ძალიან ბევრი მაგალითია იმისა, რომ გუგლის AI Overviews აძლევს ადამიანებს არაზუსტ ინფორმაციას ჯანმრთელობის შესახებ."

მსოფლიოში მილიონობით ზრდასრული უკვე იბრძვის სანდო ჯანმრთელობის ინფორმაციის მისაღებად, თქვა ფარინგტონმა. "სწორედ ამიტომ არის ასე მნიშვნელოვანი, რომ გუგლმა მიმართოს ადამიანებს სანდო, გამოკვლეულ ჯანმრთელობის ინფორმაციას და სანდო ჯანდაცვის ორგანიზაციების შეთავაზებებს."

AI Overviews კვლავ ჩნდება სხვა მაგალითებში, რომლებიც თავდაპირველად "გარდიანმა" მიუთითა გუგლისთვის. ისინი მოიცავს ინფორმაციის შეჯამებებს კიბოსა და ფსიქიკური ჯანმრთელობის შესახებ, რომლებიც ექსპერტებმა აღწერეს, როგორც "სრულიად არასწორი" და "ნამდვილად საშიში".

კითხვაზე, თუ რატომ არ იქნა ამოღებული ეს AI Overviews, გუგლმა თქვა, რომ ისინი უკავშირდებიან ცნობილ და სანდო წყაროებს და აცნობებენ ადამიანებს, როდესაც მნიშვნელოვანია ექსპერტის რჩევის მოძიება.

სპიკერმა თქვა: "ჩვენი შიდა კლინიკოსთა ჯგუფმა გადახედა იმას, რაც ჩვენთვის გაზიარებულია და აღმოაჩინა, რომ ბევრ შემთხვევაში, ინფორმაცია არ იყო არაზუსტი და ასევე მხარდაჭერილი იყო მაღალი ხარისხის ვებსაიტებით."

ვიქტორ ტანგერმანმა, ტექნოლოგიის ვებსაიტის Futurism-ის უფროსმა რედაქტორმა, თქვა, რომ "გარდიანის" გამოძიების შედეგებმა აჩვენა, რომ გუგლს ჰქონდა სამუშაო "იმის უზრუნველსაყოფად, რომ მისი AI ინსტრუმენტი არ ავრცელებს ჯანმრთელობის სახიფათო დეზინფორმაციას".

გუგლმა განაცხადა, რომ AI Overviews გამოჩნდება მხოლოდ იმ შეკითხვებზე, სადაც მას აქვს მაღალი ნდობა პასუხების ხარისხში. კომპანია მუდმივად ზომავს და განიხილავს თავისი შეჯამებების ხარისხს ინფორმაციის ბევრ სხვადასხვა კატეგორიაზე, დასძინა მან.

საძიებო სისტემის ჟურნალის სტატიაში, უფროსმა რედაქტორმა მეტ საუთერმა თქვა: "AI Overviews ჩნდება რეიტინგული შედეგების ზემოთ. როდესაც თემა ჯანმრთელობაა, შეცდომები უფრო მეტ წონას ატარებს."