ელონ მასკის ჩატბოტმა გროკმა პარასკევს განაცხადა, რომ უსაფრთხოების ზომების დარღვევამ გამოიწვია "ბავშვების გამოსახულებების გენერირება მინიმალურ ტანსაცმელში" სოციალურ ქსელ X-ზე. ჩატბოტი, მასკის კომპანიის xAI-ის პროდუქტი, მთელი კვირის განმავლობაში აგზავნის სექსუალური ხასიათის გამოსახულებებს მომხმარებლის მოთხოვნების საპასუხოდ.
მომხმარებლების მიერ გაზიარებულმა ეკრანის ანაბეჭდებმა აჩვენა, რომ გროკის საჯარო მედიის ჩანართი სავსე იყო ასეთი გამოსახულებებით. xAI-მ განაცხადა, რომ ის მუშაობდა თავისი სისტემების გაუმჯობესებაზე, რათა თავიდან აეცილებინა მომავალი ინციდენტები.
"არსებობს იზოლირებული შემთხვევები, როდესაც მომხმარებლებმა მოითხოვეს და მიიღეს ხელოვნური ინტელექტის მიერ გენერირებული გამოსახულებები, რომლებზეც გამოსახულია ბავშვები მინიმალურ ტანსაცმელში", - განაცხადა გროკმა X-ზე გამოქვეყნებულ პოსტში მომხმარებლის საპასუხოდ. "xAI-ს აქვს უსაფრთხოების ზომები, მაგრამ გაუმჯობესება მიმდინარეობს, რათა დაბლოკოს ასეთი მოთხოვნები მთლიანად."
"როგორც აღინიშნა, ჩვენ გამოვავლინეთ უსაფრთხოების ზომების დარღვევა და სასწრაფოდ ვაუმჯობესებთ მათ - CSAM უკანონო და აკრძალულია", - განაცხადა xAI-მ X-ზე @Grok ანგარიშზე, რაც გულისხმობს ბავშვთა სექსუალური ძალადობის ამსახველ მასალას.
X-ის ბევრმა მომხმარებელმა გროკს სთხოვა სექსუალური ხასიათის, არაკონსენსუალური ხელოვნური ინტელექტის მიერ შეცვლილი გამოსახულებების გენერირება ბოლო დღეებში, ზოგიერთ შემთხვევაში ადამიანების ტანსაცმლის გარეშე თანხმობის გარეშე. ხუთშაბათს მასკმა გააზიარა ხელოვნური ინტელექტის ფოტო, სადაც ის ბიკინიში იყო გამოწყობილი, წარწერით ტირილი-სიცილის ემოჯები, რაც ამ ტენდენციას მიანიშნებდა.
გროკის მიერ სექსუალური ხასიათის გამოსახულებების გენერირება, როგორც ჩანს, არ იყო დაცული უსაფრთხოების ზღვრებით, რაც საშუალებას აძლევდა არასრულწლოვანებს გამოჩენილიყვნენ მის პოსტებში ადამიანების გამოსახულებებზე, ძირითადად ქალებს, რომლებიც ცოტა ტანსაცმლით იყვნენ შემოსილნი, გრობის პოსტების მიხედვით. ხუთშაბათს X-ზე მომხმარებელზე პასუხის გაცემისას, გროკმა განაცხადა, რომ შემთხვევების უმეტესობა შეიძლებოდა თავიდან აეცილებინა მოწინავე ფილტრებისა და მონიტორინგის საშუალებით, თუმცა მან განაცხადა, რომ "არცერთი სისტემა არ არის 100%-ით უტყუარი", დასძინა, რომ xAI პრიორიტეტს ანიჭებდა გაუმჯობესებას და განიხილავდა მომხმარებლების მიერ გაზიარებულ დეტალებს.
ელ.ფოსტის საშუალებით კომენტარის თხოვნით, xAI-მ უპასუხა შეტყობინებით: "მემკვიდრეობითი მედია ტყუის".
ბავშვთა სექსუალური ძალადობის ამსახველი მასალის ხელოვნური ინტელექტის გამოყენებით გენერირების პრობლემა დიდი ხნის პრობლემაა ხელოვნურ ინტელექტში. 2023 წლის სტენფორდის კვლევამ აჩვენა, რომ პოპულარული ხელოვნური ინტელექტის გამოსახულების გენერირების ინსტრუმენტების მოსამზადებლად გამოყენებული მონაცემთა ნაკრები შეიცავდა ბავშვთა სექსუალური ძალადობის ამსახველ 1000-ზე მეტ გამოსახულებას. ბავშვთა ექსპლუატაციაზე გამოსახულებების მომზადებამ შეიძლება მოდელებს საშუალება მისცეს, შექმნან ბავშვების ექსპლუატაციის ახალი გამოსახულებები, ამბობენ ექსპერტები.
გროკს ასევე აქვს უსაფრთხოების ზღვრების შენარჩუნებისა და დეზინფორმაციის გავრცელების ისტორია. გასული წლის მაისში, გროკმა დაიწყო პოსტების გამოქვეყნება "თეთრ გენოცინზე" სამხრეთ აფრიკაში, პოსტებზე, რომლებსაც არანაირი კავშირი არ ჰქონდათ ამ კონცეფციასთან. xAI-მ ასევე ბოდიში მოიხადა ივლისში მას შემდეგ, რაც გროკმა დაიწყო გაუპატიურების ფანტაზიებისა და ანტისემიტური მასალის გამოქვეყნება, მათ შორის საკუთარ თავს "მეჩაჰიტლერად" უწოდებდა და ადიდებდა ნაცისტურ იდეოლოგიას. მიუხედავად ამისა, კომპანიამ მაინც მოიპოვა თითქმის 200 მილიონი დოლარის კონტრაქტი აშშ-ს თავდაცვის დეპარტამენტთან ინციდენტებიდან ერთი კვირის შემდეგ.
