ელონ მასკის სოციალური მედიის პლატფორმა X-მა, ოთხშაბათს, გამოაცხადა ახალი შეზღუდვები მის AI ჩატბოტ გროკზე, რათა თავიდან აიცილოს ის რეალური ადამიანების გაშიშვლებული სურათების რედაქტირებაში. ახალი ზომები მოდის გლობალური რეაქციის შემდეგ გროკზე ქალებისა და ბავშვების სექსუალური შინაარსის მქონე ფოტოების გენერირების გამო.
"ჩვენ განვახორციელეთ ტექნოლოგიური ზომები, რათა თავიდან ავიცილოთ გროკის ანგარიშის დაშვება რეალური ადამიანების გაშიშვლებულ ტანსაცმელში, როგორიცაა ბიკინი", - განაცხადა კომპანიის უსაფრთხოების ჯგუფმა განცხადებაში და დასძინა, რომ შეზღუდვები ვრცელდება ყველა მომხმარებელზე, მათ შორის ფასიან აბონენტებზე.
ჩვენ ახლა გეობლოკავთ ყველა მომხმარებლის შესაძლებლობას, შექმნან რეალური ადამიანების ბიკინში, საცვლებში და მსგავს სამოსში სურათები, გროკის ანგარიშისა და X-ში გროკის მეშვეობით იმ იურისდიქციებში, სადაც ეს უკანონოა", - ნათქვამია განცხადებაში.
xAI-მ, მასკის AI საწარმომ, რომელმაც შექმნა გროკი, შეზღუდა სურათების შექმნა და რედაქტირება ფასიან აბონენტებზე, რათა თავიდან აიცილოს ანონიმური მომხმარებლების ბოროტად გამოყენება ინსტრუმენტზე.
გროკის "ცხარე რეჟიმის" რეაქცია
პარიზში არასამთავრობო ორგანიზაციის AI Forensics-ის მიერ გასულ კვირას გამოქვეყნებული 20,000-ზე მეტი გროკის მიერ გენერირებული სურათის ანალიზის შედეგად დადგინდა, რომ სურათების ნახევარზე მეტზე გამოსახული იყო ინდივიდები "მინიმალურ სამოსში". ამ ინდივიდების უმეტესობა ქალები იყვნენ, 2% კი, როგორც ჩანს, არასრულწლოვნები იყვნენ.
რამდენიმე მთავრობამ ზეწოლა მოახდინა xAI-ზე გროკის შესაცვლელად მას შემდეგ, რაც მისმა ეგრეთ წოდებულმა "ცხარე რეჟიმმა" საშუალება მისცა მომხმარებლებს შეექმნათ სექსუალური შინაარსის მქონე სურათები მარტივი მოთხოვნებით, როგორიცაა "გახადე მისი ტანსაცმელი" ან "ჩააცვი საცვლები".
"მოხსენებების წყალდიდობა, რომელიც დეტალურად აღწერს არანებაყოფლობით, სექსუალურად ექსპლიციტურ მასალას, რომელიც xAI-მ შექმნა და განათავსა ინტერნეტში ბოლო კვირების განმავლობაში, შემაშფოთებელია", - განაცხადა კალიფორნიის გენერალურმა პროკურორმა რობ ბუნტამ ოთხშაბათს.
კალიფორნიაში გამოძიება დაადგენს, დაარღვია თუ არა კომპანიამ შტატის კანონი, განაცხადა ბუნტამ. ბრიტანეთის კომუნიკაციების მარეგულირებელმა ოფკომმა მსგავსი გამოძიება ორშაბათს გამოაცხადა. ევროკომისიამ, რომელიც მოქმედებს როგორც ბლოკის ციფრული დამკვირვებელი, ასევე მკაცრად გააკრიტიკა xAI.
X-ის განცხადების წინ, კომისიამ განაცხადა, რომ მან ყურადღება გაამახვილა "დამატებით ზომებზე, რომლებსაც X იღებს ქალებისა და ბავშვების სექსუალური შინაარსის მქონე სურათების გენერირების აკრძალვისთვის".
"ჩვენ ყურადღებით შევაფასებთ ამ ცვლილებებს, რათა დავრწმუნდეთ, რომ ისინი ეფექტურად იცავენ მოქალაქეებს ევროკავშირში", - ნათქვამია ევროკომისიის სპიკერის თომას რეგნიერის განცხადებაში.
ინდონეზიამ, შაბათს, გახდა პირველი ქვეყანა, რომელმაც დაბლოკა გროკი. მალაიზიამ კვირას იგივე გააკეთა.
ელონ მასკის xAI-მ განაცხადა, რომ ის დაბლოკავს მისი Grok AI ხელსაწყოს შესაძლებლობას შეცვალოს რეალური ადამიანების სურათები, რათა ისინი "გაშიშვლებულ ტანსაცმელში, როგორიცაა ბიკინი", გლობალური რეაქციის ფონზე, რომელიც გამოწვეულია ხელსაწყოს მიერ სექსუალური შინაარსის მქონე სურათების გენერირების გამო.
ეს ნაბიჯი მოხდა მხოლოდ რამდენიმე საათის შემდეგ, რაც მილიარდერმა თქვა, რომ ის არ იყო ინფორმირებული გროკის მიერ "შიშველი არასრულწლოვანთა სურათების" შექმნის შესახებ.
გროკის მიმართ მსოფლიო მასშტაბით გაიზარდა სკრუპულაცია, რადგან ზოგიერთმა ადამიანმა გამოიყენა ის ქალებისა და ბავშვების თანხმობის გარეშე გაშიშვლებისთვის და განათავსა ეს სურათები X-ზე. ათასობით სექსუალური შინაარსის მქონე AI-ის სურათი დატბორა X-ს ბოლო რამდენიმე კვირის განმავლობაში. xAI, რომელიც ქმნის გროკს, ასევე ფლობს X-ს - ორივე მასკის მიერ იმართება.
"ეს ამატებს დაცვის დამატებით ფენას, რაც უზრუნველყოფს, რომ პირებმა, რომლებიც ცდილობენ ბოროტად გამოიყენონ გროკის ანგარიში კანონის ან ჩვენი პოლიტიკის დარღვევისთვის, შეიძლება პასუხისმგებელნი იყვნენ", - გამოაქვეყნა კომპანიამ X-ზე ოთხშაბათს საღამოს. მან ასევე განაცხადა, რომ მას "ნულოვანი ტოლერანტობა აქვს ნებისმიერი სახის ბავშვთა სექსუალური ექსპლუატაციის, არანებაყოფლობითი სიშიშვლისა და არასასურველი სექსუალური შინაარსის მიმართ".
ოთხშაბათს გამოცხადებული ცვლილებები X-ზე გავრცელდება სოციალური მედიის პლატფორმის ყველა მომხმარებელზე, მათ შორის ფასიან აბონენტებზე, განაცხადა კომპანიამ. X-მა არ დააკონკრეტა, შეუძლიათ თუ არა ადამიანებს კვლავ შექმნან ასეთი სურათები ცალკე Grok აპზე.
ოთხშაბათს ადრე, მუსკმა X-ზე დაწერა: "მე არ ვარ ინფორმირებული გროკის მიერ შიშველი არასრულწლოვანთა სურათების გენერირების შესახებ. აბსოლუტურად ნული." მასკის xAI-სა და X-ს მზარდი რეაქცია შეექმნა გლობალურად, მათ შორის კალიფორნიის გენერალური პროკურორის გამოძიება და კანონმდებლებისა და ადვოკატირების ჯგუფების მოწოდებები Apple-ისა და Google-ისთვის, რომ ამოიღონ Grok აპლიკაციების მაღაზიებიდან. ბრიტანეთის მარეგულირებლებმა ასევე დაიწყეს გამოძიება და ქვეყნებმა, მათ შორის მალაიზიამ და ინდონეზიამ, დაიწყეს აკრძალვები ან სამართლებრივი ქმედებები.
მუსკმა განაცხადა, რომ გროკი დაპროგრამებული იყო უკანონო მოთხოვნების უარყოფისთვის და უნდა შეესაბამებოდეს მოცემული ქვეყნის ან შტატის კანონებს.
"ცხადია, გროკი სპონტანურად არ გამოიმუშავებს სურათებს. ის ამას მხოლოდ მომხმარებლის მოთხოვნების შესაბამისად აკეთებს", - განაცხადა მუსკმა ოთხშაბათს.
მუსკმა ადრე X-ზე განაცხადა, რომ ნებისმიერი, ვინც გროკს იყენებდა არალეგალური კონტენტის შესაქმნელად, იგივე შედეგებს განიცდიდა, როგორც არალეგალური კონტენტის ატვირთვისას.
გასულ კვირას, სამმა დემოკრატმა აშშ-ს სენატორმა მოუწოდეს Apple-სა და Alphabet-ის Google-ს, ამოიღონ X და მისი ჩაშენებული AI ინსტრუმენტი Grok მათი აპლიკაციების მაღაზიებიდან, X-ზე ქალებისა და არასრულწლოვნების არანებაყოფლობითი სექსუალური შინაარსის მქონე სურათების გავრცელების გამო.
ქალთა ჯგუფების, ტექნიკური დამკვირვებლებისა და პროგრესული აქტივისტების კოალიციამ მსგავსი ნაბიჯი მოითხოვა.
გასულ კვირას, X-მა შეზღუდა გროკის უნარი, გენერირება ან რედაქტირება გაუკეთოს სურათებს საჯაროდ იმ მომხმარებლებისთვის, რომლებიც არ იყვნენ ფასიანი აბონენტები. თუმცა, ინდუსტრიის ექსპერტებმა და დამკვირვებლებმა განაცხადეს, რომ გროკს მაინც შეეძლო სექსუალური შინაარსის მქონე სურათების გენერირება და რომ შეზღუდვები, როგორიცაა გარკვეული ფუნქციების გადახდა, შესაძლოა სრულად არ დაბლოკოს წვდომა უფრო ღრმა AI გამოსახულების ინსტრუმენტებზე.
დიდ ბრიტანეთში, კანონი ამ კვირაში შეიცვლება ასეთი სურათების შექმნის კრიმინალიზაციისთვის და პრემიერ-მინისტრმა კირ სტარმერმა ოთხშაბათს განაცხადა, რომ X მუშაობდა ახალი წესების დაცვასთან შესაბამისობაში. კომუნიკაციების მარეგულირებლის Ofcom-მა დაიწყო გამოძიება AI ინსტრუმენტზე.
X-მა და xAI-მ არ უპასუხეს კომენტარის მოთხოვნას.
როიტერსმა წვლილი შეიტანა მოხსენებაში.
