ელონ მასკის AI ჩატბოტი გროკი, რომელიც ხელმისაწვდომია მისი სოციალური მედიის პლატფორმის X-ის მეშვეობით, გლობალური კრიტიკის წინაშე აღმოჩნდა სექსუალური და ძალადობრივი სურათების გენერირებისა და რედაქტირებისთვის, მათ შორის ადამიანების ღრმა ყალბებისთვის. ჩატბოტი გამოიყენებოდა სურათების შესაცვლელად, როგორიცაა ქალების ბიკინებში ჩასმა ან სექსუალურ პოზებში, ზოგიერთ შემთხვევაში კი სურათები, როგორც ჩანს, ბავშვებს ასახავდა. ამან გამოიწვია მთავრობების მხრიდან მთელი მსოფლიოს მასშტაბით დაგმობა და გამოძიების მოთხოვნა.
გლობალური კრიტიკის საპასუხოდ, გროკმა ახლა შეზღუდა სურათების გენერირებისა და რედაქტირების შესაძლებლობები გადამხდელ აბონენტებზე. ეს ნაბიჯი მას შემდეგ მოხდა, რაც მასკის დაემუქრნენ ჯარიმებით, მარეგულირებელი ქმედებებით და X-ზე შესაძლო აკრძალვით. ევროკავშირმა, საფრანგეთმა, ინდოეთმა, მალაიზიამ და ბრაზილიელმა კანონმდებელმა გააკრიტიკეს გროკი "უკანონო" და "საშინელი" ქცევის გამო.
გაერთიანებული სამეფოს პრემიერ-მინისტრმა, კირ სტარმერმა, მოითხოვა, რომ X-მა "დაიჭიროს" პლატფორმაზე ხელოვნური ინტელექტის მიერ შექმნილი ფოტოების მოზღვავება, აღწერა კონტენტი, როგორც "სამარცხვინო" და "საზიზღარი". მან მიანიშნა, რომ X-ის დე ფაქტო აკრძალვა უნდა განიხილებოდეს და მოითხოვა, რომ ყველა ვარიანტი მაგიდაზე იყოს. გაერთიანებული სამეფოს კომუნიკაციების მარეგულირებელს, Ofcom-ს, აქვს უფლებამოსილება მოითხოვოს სასამართლოს ბრძანება, რათა დაბლოკოს ვებსაიტი ან აპლიკაცია დიდ ბრიტანეთში და შეუძლია დააწესოს ჯარიმები კომპანიის გლობალური ბრუნვის 10%-მდე.
გასული ორი კვირის განმავლობაში ათასობით სექსუალური სურათი შეიქმნა ქალებისა, მათი თანხმობის გარეშე, მას შემდეგ, რაც გროკის სურათების შექმნის ფუნქცია განახლდა გასული დეკემბრის ბოლოს. მიუხედავად იმისა, რომ ფუნქცია ამოღებულია მომხმარებლების უმრავლესობისთვის, გარკვეული კონტენტი კვლავ იქმნება X პლატფორმის გარეთ გროკ წარმოიდგინოს ხელსაწყოს მეშვეობით. კვლევამ აჩვენა, რომ გროკ წარმოიდგინოს აპმა შექმნა დაახლოებით 800 სურათი და ვიდეო, რომელიც შეიცავს პორნოგრაფიულ და სექსუალურად ძალადობრივ კონტენტს.
პრობლემა გამწვავებულია, რადგან მასკი თავის ჩატბოტს უფრო გაბედულ ალტერნატივად წარმოაჩენს კონკურენტებთან შედარებით მეტი გარანტიებით და რადგან გროკის სურათები საჯაროდ ხილულია და ადვილად ვრცელდება. სურათების გენერირებისა და რედაქტირების შესაძლებლობების გადამხდელ აბონენტებზე შეზღუდვისკენ გადადგმული ნაბიჯი წინ გადადგმული ნაბიჯია, მაგრამ რჩება შეშფოთება იმ პოტენციური ბოროტად გამოყენების შესახებ, რომელიც შეიძლება გამოიყენონ მათ, ვისაც შეუძლია სერვისის შეძენა.
ელონ მასკის სოციალური მედიის პლატფორმის X-ზე არსებულმა AI ჩატბოტმა გროკმა განაცხადა, რომ ის ახლა ზღუდავს სურათების გენერირებისა და რედაქტირების შესაძლებლობებს გადამხდელ აბონენტებზე, ოფიციალური პირებისა და მომხმარებლების კრიტიკის ფონზე, მას შემდეგ, რაც ინსტრუმენტმა შექმნა ადამიანების სექსუალური სურათები მათი თანხმობის გარეშე.
