ბავშვებისა და ქალების დამამცირებელი სურათები, რომელთა ტანსაცმელიც ციფრულად ამოიღეს Grok AI-ის მიერ, კვლავ ვრცელდება ელონ მასკის X-ზე, მიუხედავად პლატფორმის ვალდებულებისა, შეაჩეროს მომხმარებლები, რომლებიც მათ ქმნიან.
რამდენიმე დღის განმავლობაში შეშფოთება იმის შესახებ, რომ ჩატბოტი გამოიყენებოდა ფოტოების შესაცვლელად, რათა შეექმნა სექსუალური სურათები რეალური ქალებისა და ბავშვებისა, რომლებიც საცვლების გარდა შიშვლები იყვნენ მათი თანხმობის გარეშე, ორშაბათს, დიდმა ბრიტანეთმა განაცხადა, რომ მან "დაუყოვნებლივ დაუკავშირდა X-ს და xAI-ს, რათა გაეგო, რა ნაბიჯები გადადგეს მათ თავიანთი სამართლებრივი ვალდებულებების შესასრულებლად, დაიცვან მომხმარებლები დიდ ბრიტანეთში". Ofcom-მა დასძინა, რომ ის შეაფასებს, საჭიროა თუ არა გამოძიება კომპანიის პასუხის საფუძველზე.
ამავდროულად, პოლიტიკოსებმა და ქალთა უფლებების დამცველებმა დაადანაშაულეს დიდი ბრიტანეთის მთავრობა "ფეხის თრევით" იმით, რომ ვერ მოახერხეს ექვსი თვის წინ მიღებული კანონმდებლობის მიღება, რომელიც უკანონო გახადა ასეთი ინტიმური სურათების შექმნას.
ეს ტენდენცია, რომელიც ვირუსული გახდა ახალი წლის პერიოდში, ასევე აიძულა ევროკომისიას ორშაბათს ეთქვა, რომ ის "ძალიან სერიოზულად" უყურებს საჩივრებს, რომ Grok გამოიყენებოდა სექსუალური ხასიათის ბავშვთა სურათების გენერირებისა და გავრცელებისთვის.
შეშფოთება გაჩნდა მას შემდეგ, რაც დეკემბერში Grok-ის უფასო AI ასისტენტის განახლებამ გაუადვილა მომხმარებლებს ფოტოების განთავსება და მათი ტანსაცმლის მოცილება. მიუხედავად იმისა, რომ საიტი არ იძლევა სრულ ნუდიფიკაციას, ის მომხმარებლებს საშუალებას აძლევს მოითხოვონ სურათების შეცვლა, რათა აჩვენონ ინდივიდები მცირე, მაცდუნებელ საცვლებში და სექსუალურად პროვოკაციულ პოზებში.
კვირას და ორშაბათს, Grok-ის მომხმარებლებმა განაგრძეს სექსუალური სურათების გენერირება არასრულწლოვანებისთვის, ღამით 10 წლის ბავშვების სურათების შექმნით. ეშლი სტიკლერმა, მასკის ერთ-ერთი შვილის დედამ, უჩივლა, რომ AI ინსტრუმენტმა შექმნა მისი სურათი, როდესაც ის 14 წლის იყო ბიკინიში.
Stranger Things-ის მსახიობის, ნელ ფიშერის სურათი კვირას მანიპულირებული იყო Grok-ის მიერ, რათა მას ბანანის პრინტის ბიკინი ჩაეცვა. ფიშერი 14 წლისაა. ბევრმა ქალმა გამოხატა ბრაზი X-ზე მას შემდეგ, რაც აღმოაჩინა, რომ მათი სურათები მათი თანხმობის გარეშე გაიხადეს. ზოგიერთი ქალისა და ბავშვის სურათი, რომელიც მანიპულირებულია AI ხელსაწყოს მიერ, როგორც ჩანს, სახეებსა და მკერდზე სპერმის მსგავს ნივთიერებებს ასხამს.
პარიზში დაფუძნებულმა არაკომერციულმა ორგანიზაციამ, AI Forensics-მა, შეისწავლა @Grok-ის 50,000 ხსენება X-ზე და 20,000 სურათი, რომელიც შეიქმნა ხელსაწყოს მიერ, რომელიც აღმოაჩინეს ერთკვირიანი პერიოდის განმავლობაში 25 დეკემბრიდან 1 იანვრამდე. @Grok-ის ხსენებების მეოთხედზე მეტი იყო ინსტრუმენტის მიერ სურათის შექმნის მოთხოვნა. ამ სურათის გენერირების მოთხოვნებში იყო მაღალი პრევალენტობა ტერმინებით, როგორიცაა "ის", "დაყენება", "ამოღება", "ბიკინი" და "ტანსაცმელი".
მან აღმოაჩინა, რომ სურათების ნახევარზე მეტი იყო "მინიმალური სამოსით", როგორიცაა საცვლები ან ბიკინი, უმრავლესობა იყო ქალები, რომლებიც, როგორც ჩანს, 30 წლამდე იყვნენ. სურათების უმცირესობა, ანუ 2%, როგორც ჩანს, აჩვენებს 18 წლის ან უმცროს ადამიანებს, დასძინა AI Forensics-მა, ზოგიერთი სურათი წარმოადგენს ხუთ წლამდე ასაკის ბავშვებს. მკვლევარებმა განაცხადეს, რომ კონტენტის უმეტესი ნაწილი ჯერ კიდევ ონლაინ იყო და მოიცავდა მოთხოვნებს ნაცისტური და ისლამური სახელმწიფოს პროპაგანდის გენერირებისთვის.
თავდაპირველად, მასკმა გამოხატა გართობა ტენდენციით, გამოაქვეყნა ტირილი-სიცილის emoji პარასკევს, როგორც რეაქცია ტოსტერზე, რომელსაც ბიკინი ეცვა. მან თქვა: "არ ვიცი რატომ, მაგრამ ამ ერთზე ვიცინოდი". გლობალური აღშფოთების შემდეგ კონტენტის მავნე ხასიათის გამო, მან მოგვიანებით განაცხადა, რომ "ნებისმიერი, ვინც იყენებს Grok-ს არალეგალური კონტენტის შესაქმნელად, იგივე შედეგებს განიცდის, როგორც არალეგალური კონტენტის ატვირთვისას".
X-ის სპიკერმა თქვა: "ჩვენ ვიღებთ ზომებს X-ზე არალეგალური კონტენტის წინააღმდეგ, მათ შორის ბავშვთა სექსუალური ძალადობის მასალის (CSAM) წინააღმდეგ, მისი წაშლით, ანგარიშების სამუდამოდ შეჩერებით და საჭიროების შემთხვევაში ადგილობრივ მთავრობებთან და სამართალდამცავ ორგანოებთან მუშაობით."
Grok-ის ადრინდელმა განცხადებამ, რომელშიც ნათქვამია, რომ მან "დაადგინა ხარვეზები უსაფრთხოების ზომებში" და "სასწრაფოდ ასწორებს მათ", აღმოჩნდა, რომ გენერირებული იყო ხელოვნური ინტელექტის მიერ; გაურკვეველი იყო, კომპანია რეალურად იღებდა თუ არა ზომებს უსაფრთხოების ხარვეზების გამოსასწორებლად.
მარეგულირებლები წლების განმავლობაში მუშაობდნენ ტელეფონებზე ნუდიფიკაციის აპების აკრძალვაზე, შერეული წარმატებით, მაგრამ გასულ თვეში Grok-ის განახლებებმა პრობლემა გააყალბა, რაც აადვილებს ინდივიდების ინტიმური სურათების შექმნას და გაზიარებას, რომელთა უმეტესობაც ტანსაცმელს აცვია ინტერნეტის ერთ-ერთ ყველაზე პოპულარულ პლატფორმაზე.
მიუხედავად იმისა, რომ ბავშვების ტანსაცმლის გარეშე სურათების შექმნა უკვე უკანონოა, ზრდასრულთა ღრმაფიქსების შესახებ კანონი უფრო რთულია. დიდ ბრიტანეთში კამპანიამ წარმატებას მიაღწია ივნისში კანონმდებლობის მიღებაში, რომელიც უკანონო გახადა როგორც ინტიმური სურათების შექმნას, ასევე მოთხოვნას თანხმობის გარეშე, მაგრამ შესაბამისი დებულებები ჯერ არ არის ამოქმედებული, რაც ნიშნავს, რომ კანონმდებლობა ამჟამად არ არის აღსრულებადი. თუმცა, უკვე უკანონოა ამ თანხმობის გარეშე ღრმაფიქსური სურათების გაზიარება.
ჩარლოტა ოუენმა, კონსერვატიულმა თანატოლმა, რომელმაც ხელი შეუწყო კანონმდებლობას, თქვა: "მთავრობამ არაერთხელ დააყოვნა და უარი თქვა ვადების მიცემაზე, როდის განახორციელებს ამ სასიცოცხლოდ მნიშვნელოვან დებულებებს. ჩვენ აღარ შეგვიძლია შეფერხებები. ამ ძალადობის მსხვერპლებს უკეთესი რამ სჭირდებათ. არავის უნდა მოუწიოს შიშში ცხოვრება, რომ მისი თანხმობა დაირღვეს ამ საზიზღარი გზით."
სპიკერმა თქვა, რომ მთავრობა მზად არის განახორციელოს ინტიმური ღრმაფიქსების შექმნის, ან მოთხოვნის, ახალი დანაშაულები თანხმობის გარეშე, რაც შეიძლება მალე, დასძინა, რომ სექსუალურად ექსპლიციტური ღრმაფიქსები "დამამცირებელი და საზიანოა... სწორედ ამიტომ ჩვენ მივიღეთ კანონმდებლობა, რათა ავკრძალოთ მათი თანხმობის გარეშე შექმნა, რაც უზრუნველყოფს, რომ დამნაშავეები მიიღებენ შესაბამის სასჯელებს ამ საზიზღარი ზიანისთვის."
გაბი ბერტინმა, კონსერვატიულმა თანატოლმა, რომელიც კამპანიას აწარმოებს ნუდიფიკაციის ტექნოლოგიის რეგულირებისთვის, თქვა, რომ მთავრობამ სწრაფად უნდა იმოქმედოს, რადგან "არსებული კანონმდებლობა ყოველთვის ჩამორჩება".
ჯეს ასატომ, ლეიბორისტმა დეპუტატმა, რომელიც კამპანიას აწარმოებს პორნოგრაფიის უკეთესი რეგულირებისთვის, თქვა: "ეს არის ელონ მასკის გადასაწყვეტი, გააცნობიეროს, რომ ეს არის სექსუალური ძალადობის ფორმა და მიიღოს შესაბამისი ზომები. ეს არის ქალის სურათის აღება მისი თანხმობის გარეშე და მისი გაშიშვლება დამცირებისთვის - სხვა მიზეზი არ არსებობს ამის გასაკეთებლად, გარდა მისი დამცირებისა."
