ინდონეზია გახდა პირველი ქვეყანა, რომელმაც დაბლოკა ელონ მასკის გროკ ჩატბოტი, ხელოვნური ინტელექტის მიერ გენერირებული პორნოგრაფიული შინაარსის გამო შეშფოთების ფონზე. ეს გადაწყვეტილება მიიღეს მას შემდეგ, რაც მთავრობებმა, მკვლევარებმა და მარეგულირებლებმა მთელ მსოფლიოში გააკრიტიკეს და დაიწყეს გამოძიება აპის სექსუალური შინაარსის შესახებ.
მთავრობის პოზიცია ნათელია: "არათანხმობრივი სექსუალური ღრმა გაყალბების პრაქტიკა არის ადამიანის უფლებების, ღირსებისა და მოქალაქეების ციფრული სივრცის უსაფრთხოების სერიოზული დარღვევა", - განაცხადა კომუნიკაციებისა და ციფრული მინისტრმა მეუტა ჰაფიდმა. სამინისტრომ ასევე დაიბარა X-ის ოფიციალური პირები საკითხის განსახილველად.
უკმაყოფილების საპასუხოდ, xAI-მ, სტარტაპმა Grok-ის უკან, ხუთშაბათს განაცხადა, რომ ზღუდავს სურათების გენერირებას და რედაქტირებას გადამხდელ აბონენტებზე. ეს ნაბიჯი მიზნად ისახავდა უსაფრთხოების ხარვეზების მოგვარებას, რამაც დაუშვა სექსუალური შინაარსისა და ძალადობის გამოსახულების შექმნა, მათ შორის ნახევრად ჩაცმული ბავშვების გამოსახვა.
ელონ მასკმა განაცხადა, რომ ნებისმიერი, ვინც იყენებს Grok-ს არალეგალური კონტენტის შესაქმნელად, იგივე შედეგებს შეხვდება, როგორც არალეგალური კონტენტის ატვირთვისას. თუმცა, xAI-ის პასუხი შეკითხვებზე იყო ავტომატური შეტყობინება: "Legacy Media Lies."
ინდონეზიის მკაცრი წესები კრძალავს უხამსი შინაარსის გაზიარებას, რამაც გამოიწვია Grok-ის დროებითი დაბლოკვა. ხელსაწყო გამოიყენებოდა ქალების სურათების მანიპულირებისთვის, რათა მოეშორებინათ ტანსაცმელი და სექსუალური პოზები მიეღოთ. ეს ფუნქცია გამორთულია, გარდა გადამხდელი აბონენტებისა.
სიტუაციამ გამოიწვია გლობალური შეშფოთება, ავსტრალიის პრემიერ-მინისტრმა ენტონი ალბანეზმა გამოთქვა შეშფოთება გროკ ჩატბოტის ხელოვნური ინტელექტის გამოყენების გამო, რათა შესაძლებელი გახდეს სექსუალური შინაარსის ექსპლუატაცია. ის შეუერთდა საერთაშორისო ლიდერების მზარდ სიას, მათ შორის გაერთიანებული სამეფოს პრემიერ-მინისტრ კირ სტარმერს, რომლებიც აკრიტიკებდნენ სოციალური მედიის პლატფორმას.
ავსტრალიის მთავრობის eSafety Office-მა გააფრთხილა, რომ ის გამოიყენებდა თავის უფლებამოსილებებს, მათ შორის მოხსნის შეტყობინებებს, სადაც ასეთი მასალა აკმაყოფილებს ონლაინ უსაფრთხოების აქტის მიერ განსაზღვრულ ზღვრებს. დამკვირვებელმა ასევე აღნიშნა Grok-ის გამოყენების ბოლოდროინდელი ზრდა სექსუალური ან ექსპლუატაციური გამოსახულების შესაქმნელად.
დიდ ბრიტანეთში მთავრობამ უბრძანა X-ს გაუმკლავდეს ხელოვნური ინტელექტის უხამსი სურათების ტალღას ან დაემუქროს დე ფაქტო აკრძალვას. მედიის დამკვირვებელმა, Ofcom-მა დააჩქარა გამოძიება X-ზე, რადგან იზრდება უკმაყოფილება საიტის მიმართ, რომელმაც უმასპინძლა ნახევრად შიშველი ქალებისა და ბავშვების გამოსახულებების ნიაღვარს.
X-მა უპასუხა გლობალურ აღშფოთებას Grok AI ხელსაწყოს სურათების შექმნის შეზღუდვის გამოცხადებით. სურათების გენერირებისა და რედაქტირების უნარი ახლა შემოიფარგლება გადამხდელი აბონენტებით, რომლებმაც უნდა მიაწოდონ პირადი დეტალები. ეს ნიშნავს, რომ ისინი შეიძლება გამოვლინდნენ, თუ ფუნქცია არასწორად იქნება გამოყენებული.
თუმცა, ამ ნაბიჯმა ვერ ჩაახშო აღშფოთება და გააღრმავა უკუსვლა მსხვერპლთა, პოლიტიკოსებისა და ექსპერტებისგან, რომლებიც ამბობენ, რომ ეს არ არის საკმარისი. დანაშაულის მსხვერპლთა ახალი კომისარი, კლერ ვაქსმანი, ამბობს, რომ X აღარ არის უსაფრთხო სივრცე მსხვერპლთათვის და აფერხებს ძალადობას ქალთა და გოგონების წინააღმდეგ ბრძოლას.
დიდი ბრიტანეთის მთავრობა ჰპირდება, რომ სერიოზულად განიხილავს X-ზე წვდომის დაბლოკვის შესაძლებლობას დიდ ბრიტანეთში. ტექნოლოგიების მდივანმა ლიზ კენდალმა განაცხადა, რომ Ofcom-ს სავარაუდოდ რამდენიმე დღეში ექნება ქმედება. კენდალმა გააფრთხილა X, რომ მთავრობა განიხილავს პლატფორმის დაბლოკვას, თუ ის არ შეასრულებს კანონს.
სიტუაციამ გამოიწვია ქალთა სექტორის ორგანიზაციების გადინება X-დან, მათ შორის ოჯახური ძალადობის საქველმოქმედო ორგანიზაცია Refuge და Women's Aid Ireland. მსხვერპლთა მხარდაჭერამ ასევე დატოვა საიტი და განაცხადა, რომ ეს აღარ არის სწორი ადგილი მათი აუდიტორიისთვის კომუნიკაციისთვის.
გროკ ჩატბოტი ინტეგრირებულია X-ში და ხელოვნური ინტელექტის ხელსაწყოს განახლებამ მომხმარებლებს საშუალება მისცა წაახალისონ ის, შეცვალოს ჩაცმული ქალებისა და ბავშვების სურათები, რათა ისინი გამოჩნდნენ ბიკინებში და სექსუალურ პოზებში. მიუხედავად შეზღუდვებისა, ჩატბოტი ჯერ კიდევ ქმნის ქალებისა და ბავშვების სურათებს ბიკინებში გროკ აპლიკაციაში, სადაც კონტენტი მაშინვე არ ჩანს სხვა ინტერნეტ მომხმარებლებისთვის.
ეს სიტუაცია აჩენს შეშფოთებას იმის შესახებ, თუ რამდენად შეიძლება გამოყენებულ იქნას ხელოვნური ინტელექტის მიერ გენერირებული კონტენტი უკანონო და მავნე მიზნებისთვის. მთავრობები და მარეგულირებლები მთელ მსოფლიოში ებრძვიან ამ საკითხების მოგვარების გზებს და მოქალაქეების დაცვას ციფრულ სივრცეში.
