ასობით ანგარიში TikTok-ზე მილიარდობით ნახვას იღებს ხელოვნური ინტელექტის მიერ გენერირებული კონტენტის გავრცელებით, მათ შორის ანტიიმიგრაციული და სექსუალური მასალის, ანგარიშის თანახმად.

მკვლევარებმა განაცხადეს, რომ მათ აღმოაჩინეს 354 AI-ზე ორიენტირებული ანგარიში, რომლებიც ავრცელებდნენ 43,000 პოსტს გენერაციული ხელოვნური ინტელექტის ინსტრუმენტების გამოყენებით და აგროვებდნენ 4.5 მილიარდ ნახვას ერთთვიანი პერიოდის განმავლობაში.

პარიზში დაფუძნებული არაკომერციული ორგანიზაციის, AI Forensics-ის თქმით, ამ ანგარიშების ნაწილი ცდილობს TikTok-ის ალგორითმის მოტყუებას - რომელიც წყვეტს რა კონტენტს ხედავენ მომხმარებლები - კონტენტის დიდი რაოდენობით გამოქვეყნებით იმ იმედით, რომ ის ვირუსული გახდება.

ერთი აქვეყნებდა დღეში 70-ჯერ ან დღის ერთსა და იმავე დროს, რაც ავტომატური ანგარიშის მაჩვენებელია და ანგარიშების უმეტესობა წლის დასაწყისში იყო გაშვებული.

გასულ თვეს TikTok-მა განაცხადა, რომ პლატფორმაზე სულ მცირე 1.3 მილიარდი ხელოვნური ინტელექტის მიერ გენერირებული პოსტი იყო. პლატფორმაზე ყოველდღიურად 100 მილიონზე მეტი კონტენტი იტვირთება, რაც მიუთითებს, რომ TikTok-ის კატალოგში მონიშნული ხელოვნური ინტელექტის მასალა მცირე ნაწილია. TikTok ასევე აძლევს მომხმარებლებს შესაძლებლობას შეამცირონ მათ მიერ ნანახი ხელოვნური ინტელექტის კონტენტის რაოდენობა.

ყველაზე ხშირად კონტენტის გამომქვეყნებელი ანგარიშების ნახევარი ფოკუსირებული იყო ქალის სხეულთან დაკავშირებულ კონტენტზე. "ეს ხელოვნური ინტელექტის ქალები ყოველთვის სტერეოტიპულად მიმზიდველები არიან, სექსუალური სამოსით ან დეკოლტეთი", - ნათქვამია მოხსენებაში.

AI Forensics-მა აღმოაჩინა, რომ ანგარიშების მიერ გამოქვეყნებული კონტენტის ნახევარი არ იყო მონიშნული და 2%-ზე ნაკლები ატარებდა TikTok-ის მონიშვნას ხელოვნური ინტელექტის კონტენტისთვის - რასაც არასამთავრობო ორგანიზაცია აფრთხილებდა, რომ გაზრდიდა მასალის შეცდომაში შემყვან პოტენციალს. მკვლევრებმა დაამატეს, რომ ანგარიშები ზოგჯერ TikTok-ის მოდერაციას თვეობით გაურბიან, მიუხედავად კონტენტის გამოქვეყნებისა, რომელიც აკრძალულია მისი მომსახურების პირობებით.

კვლევაში გამოვლენილი ათობით ანგარიში შემდგომში წაიშალა, განაცხადეს მკვლევრებმა, რაც მიუთითებს, რომ ზოგიერთი მოდერატორების მიერ იყო წაშლილი.

ზოგიერთი კონტენტი იღებდა ყალბი სამაუწყებლო ახალი ამბების სეგმენტების ფორმას ანტიიმიგრაციული ნარატივებით და ქალის სხეულების სექსუალური შინაარსის მასალას, მათ შორის გოგონების, რომლებიც, როგორც ჩანს, არასრულწლოვნები იყვნენ. ქალის სხეულის კატეგორია შეადგენდა ყველაზე აქტიური ანგარიშების ათეულში ნახევარს, განაცხადა AI Forensics-მა, ზოგი ყალბი ახალი ამბების ნაწილი კი შეიცავდა ცნობილ სამაუწყებლო ბრენდებს, როგორიცაა Sky News და ABC.

ზოგიერთი პოსტი TikTok-მა წაშალა მას შემდეგ, რაც ისინი Guardian-ს პლატფორმისთვის გადაეცა.

TikTok-მა განაცხადა, რომ მოხსენების პრეტენზიები იყო "დაუსაბუთებელი" და მკვლევრებმა გამოარჩიეს ის საკითხისთვის, რომელიც გავლენას ახდენდა მრავალ პლატფორმაზე. აგვისტოში Guardian-მა გამოავლინა, რომ YouTube-ის გლობალურად ყველაზე სწრაფად მზარდი არხების თითქმის ერთი მეათედი აჩვენებდა მხოლოდ ხელოვნური ინტელექტის მიერ გენერირებულ კონტენტს.

TikTok-ზე ჩვენ ვხსნით მავნე AIGC-ს [ხელოვნური ინტელექტის გენერირებულ კონტენტს], ვაბლოკავთ ასობით მილიონი ბოტის ანგარიშის შექმნას, ვდებთ ინვესტიციებს ინდუსტრიის წამყვან ხელოვნური ინტელექტის მონიშვნის ტექნოლოგიებში და ვაძლევთ ადამიანებს ინსტრუმენტებსა და განათლებას, რათა გააკონტროლონ, თუ როგორ განიცდიან ამ კონტენტს ჩვენს პლატფორმაზე", - განაცხადა TikTok-ის წარმომადგენელმა.

AI Forensics-ის მიერ ხაზგასმულმა ყველაზე პოპულარულმა ანგარიშებმა ნახვების თვალსაზრისით გამოაქვეყნეს "სლოპი", ტერმინი ხელოვნური ინტელექტის მიერ შექმნილი კონტენტისთვის, რომელიც უაზრო, უცნაურია და შექმნილია ადამიანების სოციალური მედიის არხების გასაჭუჭყიანებლად - როგორიცაა ცხოველები, რომლებიც ოლიმპიურ შეჯიბრში ყვინთვაში ეჯიბრებიან ან მოლაპარაკე ჩვილები. მკვლევრებმა აღიარეს, რომ სლოპის კონტენტის ნაწილი იყო "გასართობი" და "საყვარელი".

TikTok-ის სახელმძღვანელო მითითებები კრძალავს ხელოვნური ინტელექტის გამოყენებას ყალბი ავტორიტეტული წყაროების გამოსახატავად, 18 წლამდე ასაკის ადამიანების მსგავსების გამოსახატავად ან მოზრდილების მსგავსების გამოსახატავად, რომლებიც არ არიან საჯარო ფიგურები.

"ეს [ავტომატური ანგარიშების] გამოძიება აჩვენებს, თუ როგორ არის ხელოვნური ინტელექტის კონტენტი ახლა ინტეგრირებული პლატფორმებში და უფრო დიდ ვირუსულობის ეკოსისტემაში", - განაცხადეს მკვლევრებმა.

"პლატფორმაზე ავთენტური ადამიანისა და სინთეზური ხელოვნური ინტელექტის მიერ გენერირებული კონტენტის ბუნდოვანი ხაზი მიუთითებს ახალ შემობრუნებაზე უფრო ხელოვნური ინტელექტის მიერ გენერირებულ კონტენტზე მომხმარებლების არხებზე."

მკვლევრებმა გააანალიზეს მონაცემები შუა აგვისტოდან შუა სექტემბრამდე. კონტენტის ნაწილი ცდილობს ფულის გამომუშავებას მომხმარებლებისგან, მათ შორის ყალბი ინფლუენსერების მეშვეობით ჯანმრთელობის დანამატების პოპულარიზაციას, ვირუსული ხელოვნური ინტელექტის კონტენტის შესაქმნელად ინსტრუმენტების პოპულარიზაციას და პოსტებისთვის სპონსორობის ძიებას.

AI Forensics-მა, რომელმაც ასევე ხაზი გაუსვა ხელოვნური ინტელექტის კონტენტის გავრცელებას Instagram-ზე, განაცხადა, რომ მიესალმა TikTok-ის გადაწყვეტილებას, მისცეს მომხმარებლებს საშუალება შეზღუდონ მათ მიერ ნანახი ხელოვნური ინტელექტის კონტენტის რაოდენობა, მაგრამ რომ მონიშვნა უნდა გაუმჯობესებულიყო.

"იმის გათვალისწინებით, რომ ასეთი შინაარსის იდენტიფიცირების სტრუქტურული და არაუმნიშვნელო რაოდენობის წარუმატებლობის შესახებ, ჩვენ სკეპტიკურად ვართ განწყობილი ამ ფუნქციის წარმატების მიმართ", - თქვეს მათ.

მკვლევრებმა ასევე განაცხადეს, რომ TikTok-მა უნდა განიხილოს ხელოვნური ინტელექტის მხოლოდ ფუნქციის შექმნა აპლიკაციაში, რათა გამოყოს ხელოვნური ინტელექტის მიერ შექმნილი კონტენტი ადამიანის მიერ შექმნილი პოსტებისგან. "პლატფორმებმა უნდა გასცდნენ სუსტ ან არასავალდებულო "ხელოვნური ინტელექტის კონტენტის" ეტიკეტებს და განიხილონ გენერაციული კონტენტის გამოყოფა ადამიანის მიერ შექმნილი მასალისგან ან იპოვონ სამართლიანი სისტემა, რომელიც უზრუნველყოფს ხელოვნური ინტელექტის კონტენტის სისტემატურ და თვალსაჩინო მონიშვნას", - თქვეს მათ.