უახლესი მოდელი ChatGPT-ისა, GPT-5.2-მა, დაიწყო ელონ მასკის Grokipedia-ს ციტირება, როგორც წყარო, სხვადასხვა შეკითხვებზე, მათ შორის ირანულ კონგლომერატებსა და ჰოლოკოსტის უარმყოფელებზე, რაც იწვევს შეშფოთებას პლატფორმაზე დეზინფორმაციის შესახებ.
გარდიანის მიერ ჩატარებულ ტესტებში, GPT-5.2 ციტირებდა Grokipedia-ს ცხრაჯერ, ორ ათეულზე მეტ სხვადასხვა კითხვაზე. ეს მოიცავდა შეკითხვებს ირანის პოლიტიკურ სტრუქტურებზე, როგორიცაა ბასიჯის გასამხედროებული ძალების ხელფასები და ყველაზეაფანის ფონდის საკუთრება, ასევე შეკითხვებს სერ რიჩარდ ევანსის ბიოგრაფიაზე, ბრიტანელი ისტორიკოსისა და ჰოლოკოსტის უარმყოფელი დევიდ ირვინგის ცილისწამების სასამართლო პროცესის ექსპერტის მოწმეზე.
Grokipedia, რომელიც ოქტომბერში ამოქმედდა, არის AI-ით გენერირებული ონლაინ ენციკლოპედია, რომელიც მიზნად ისახავს კონკურენცია გაუწიოს ვიკიპედიას და რომელიც გააკრიტიკეს მემარჯვენე ნარატივების გავრცელების გამო ისეთ თემებზე, როგორიცაა გეი ქორწინება და 6 იანვრის აჯანყება აშშ-ში. ვიკიპედიისგან განსხვავებით, ის არ იძლევა პირდაპირ ადამიანურ რედაქტირებას, სამაგიეროდ AI მოდელი წერს შინაარსს და პასუხობს ცვლილებებს.
ChatGPT-მ არ მოიხსენია Grokipedia, როდესაც პირდაპირ სთხოვეს დეზინფორმაციის გამეორება აჯანყების შესახებ, მედიის მიკერძოების შესახებ დონალდ ტრამპის წინააღმდეგ ან აივ/შიდსის ეპიდემიის შესახებ - სფეროები, სადაც Grokipedia ფართოდ არის მოხსენებული მცდარი ინფორმაციის გავრცელების შესახებ. ამის ნაცვლად, Grokipedia-ს ინფორმაცია ფილტრავდა მოდელის პასუხებში, როდესაც მას სთხოვდნენ უფრო ბუნდოვან თემებზე.
მაგალითად, ChatGPT-მა, Grokipedia-ს ციტირებით, გაიმეორა უფრო ძლიერი პრეტენზიები ირანის მთავრობის კავშირებზე MTN-Irancell-თან, ვიდრე ვიკიპედიაზე - მაგალითად, ამტკიცებდა, რომ კომპანიას კავშირები აქვს ირანის უზენაესი ლიდერის ოფისთან.
ChatGPT-მ ასევე მოიხსენია Grokipedia, როდესაც იმეორებდა ინფორმაციას, რომელიც გარდიანმა უარყო, კერძოდ, დეტალებს სერ რიჩარდ ევანსის მუშაობის შესახებ, როგორც დევიდ ირვინგის სასამართლო პროცესის ექსპერტი მოწმე.
GPT-5.2 არ არის ერთადერთი დიდი ენობრივი მოდელი (LLM), რომელიც, როგორც ჩანს, ციტირებს Grokipedia-ს; ანეკდოტურად, ანთროპიკის კლაუდმა ასევე მოიხსენია მასკის ენციკლოპედია ისეთ თემებზე, დაწყებული ნავთობის წარმოებით და დამთავრებული შოტლანდიური ალებით.
OpenAI-ის სპიკერმა განაცხადა, რომ მოდელის ვებ-ძიება "მიისწრაფვის, ამოიღოს ფართო სპექტრის საჯაროდ ხელმისაწვდომი წყაროებიდან და პერსპექტივებიდან".
"ჩვენ ვიყენებთ უსაფრთხოების ფილტრებს, რათა შევამციროთ ბმულების გამოჩენის რისკი, რომლებიც დაკავშირებულია მაღალი სიმძიმის ზიანსთან და ChatGPT ნათლად აჩვენებს, თუ რომელი წყაროები აცნობებდნენ პასუხს ციტირებით", - განაცხადეს მათ და დაამატეს, რომ მათ ჰქონდათ მიმდინარე პროგრამები დაბალი სანდოობის ინფორმაციისა და გავლენის კამპანიების გასაფილტრად.
Anthropic-მა არ უპასუხა კომენტარის მოთხოვნას.
მაგრამ ის ფაქტი, რომ Grokipedia-ს ინფორმაცია - ზოგჯერ ძალიან დახვეწილად - ფილტრავს LLM პასუხებში, შემაშფოთებელია დეზინფორმაციის მკვლევარებისთვის. გასულ გაზაფხულზე, უსაფრთხოების ექსპერტებმა გამოთქვეს შეშფოთება, რომ მავნე აქტორები, მათ შორის რუსული პროპაგანდის ქსელები, აწარმოებდნენ დეზინფორმაციის მასიურ მოცულობას, როგორც მცდელობას, გაეზარდათ სიცრუე AI მოდელებში, პროცესი, რომელსაც ეწოდება "LLM grooming".
ივნისში შეშფოთება გამოითქვა აშშ-ს კონგრესში, რომ Google-ის ჯიმინიუსმა გაიმეორა ჩინეთის მთავრობის პოზიცია სინძიანში ადამიანის უფლებათა დარღვევებზე და ჩინეთის COVID-19-ის პოლიტიკაზე.
ნინა იანკოვიჩმა, დეზინფორმაციის მკვლევარმა, რომელიც მუშაობდა LLM grooming-ზე, განაცხადა, რომ ChatGPT-ის ციტირება Grokipedia-ზე მსგავს შეშფოთებას იწვევს. მიუხედავად იმისა, რომ მასკმა შესაძლოა არ სურდა LLM-ების გავლენის მოხდენა, Grokipedia-ს ჩანაწერები, რომლებიც მან და მისმა კოლეგებმა გადახედეს, "ყველაზე უარეს შემთხვევაში ეყრდნობა არასანდო წყაროებს, ცუდად არის წყარო და მიზანმიმართული დეზინფორმაცია", - განაცხადა მან.
და ის ფაქტი, რომ LLM-ები ციტირებენ ისეთ წყაროებს, როგორიცაა Grokipedia ან Pravda ქსელი, შესაძლოა, თავის მხრივ, გააუმჯობესოს ამ წყაროების სანდოობა მკითხველების თვალში. "მათ შეიძლება თქვან: "ოჰ, ChatGPT ციტირებს მას, ეს მოდელები ციტირებენ მას, ის უნდა იყოს ღირსეული წყარო, რა თქმა უნდა, მათ შეამოწმეს" და ისინი შეიძლება იქ წავიდნენ და ეძებონ სიახლეები უკრაინის შესახებ", - თქვა იანკოვიჩმა.
ცუდი ინფორმაცია, მას შემდეგ, რაც ის ფილტრავს AI ჩატბოტში, შეიძლება რთული იყოს მოსაშორებლად. იანკოვიჩმა ახლახან აღმოაჩინა, რომ დიდმა საინფორმაციო გამოშვებამ მის შესახებ შეთხზული ციტატა შეიყვანა სიუჟეტში დეზინფორმაციის შესახებ. მან მისწერა საინფორმაციო გამოშვებას და სთხოვა ციტატის ამოღება და გამოაქვეყნა ინციდენტი სოციალურ მედიაში.
საინფორმაციო გამოშვებამ ციტატა ამოიღო. თუმცა, გარკვეული პერიოდის განმავლობაში, AI მოდელები აგრძელებდნენ მის ციტირებას. "ადამიანთა უმეტესობა არ გააკეთებს საჭირო სამუშაოს, რათა გაარკვიოს, სად დევს სიმართლე სინამდვილეში", - თქვა მან.
Grokipedia-ს მფლობელ xAI-ის სპიკერს კომენტარის თხოვნით მიმართეს: "მემკვიდრეობითი მედია იტყუება."
