ოჯახი, რომლის გოგონაც კანადის სკოლაში სროლის დროს კრიტიკულ მდგომარეობაში დაშავდა, უჩივის ChatGPT-ის შემქმნელ OpenAI-ს, ამტკიცებს, რომ კომპანიამ იცოდა, რომ ეჭვმიტანილი თავდასხმას გეგმავდა, მაგრამ ხელისუფლებას არ შეატყობინა.
თორმეტი წლის მაია გებალა კისრისა და თავის არეში დაიჭრა 10 თებერვალს, ტუმბლრჯის სკოლაში თავდასხმის დროს და კვლავ საავადმყოფოშია.
ეჭვმიტანილის, 18 წლის ჯესი ვან როტსელაარის, თავდაპირველად ChatGPT-ის ანგარიშს, რომელიც აკრძალა OpenAI-მ 2025 წლის ივნისში მისი საუბრების ხასიათის გამო ჩატბოტთან, კანადის პოლიციას არ შეატყობინეს.
OpenAI-მ BBC-ს განუცხადა, რომ ის მზად იყო "მნიშვნელოვანი ცვლილებების" განსახორციელებლად, რათა მომავალში მსგავსი ტრაგედიები თავიდან აეცილებინა.
თავდასხმის დროს რვა ადამიანი დაიღუპა, მათ შორის ხუთი ახალგაზრდა ბავშვი და ეჭვმიტანილის დედა, კანადის ისტორიაში ერთ-ერთი ყველაზე სასიკვდილო სროლა.
სამოქალაქო სარჩელი, რომელიც შეიტანეს გებალას დედამ, სია ედმონდსმა, ამტკიცებს, რომ ეჭვმიტანილმა შექმნა ანგარიში ChatGPT-თან ერთად, სანამ 18 წლის გახდებოდა - რისი გაკეთებაც მომხმარებლებს შეუძლიათ მშობლის თანხმობით.
მოსარჩელეები ამტკიცებენ, რომ საიტზე ასაკობრივი ვერიფიკაცია არ ჩატარებულა.
სარჩელი ამტკიცებს, რომ ეჭვმიტანილმა ჩატბოტი დაინახა, როგორც "ნდობით აღსავსე მეგობარი" და რამდენიმე დღის განმავლობაში, გვიან გაზაფხულზე ან ზაფხულის დასაწყისში, 2025 წელს, მას "საუბრობდა სხვადასხვა სცენარზე, რომელიც მოიცავდა იარაღის ძალადობას".
სარჩელის თანახმად, OpenAI-ის თორმეტმა თანამშრომელმა, სავარაუდოდ, მონიშნა პოსტები, როგორც "მიუთითებს სხვებისთვის სერიოზული ზიანის მიყენების გარდაუვალ რისკზე" და რეკომენდაცია გაუწია კანადის სამართალდამცავ ორგანოებს.
ამის ნაცვლად, სარჩელი ამტკიცებს, რომ მოთხოვნა სამართალდამცავებისთვის შეტყობინების შესახებ "უარყვეს" და ერთადერთი მიღებული ქმედება იყო ეჭვმიტანილის ანგარიშის აკრძალვა.
OpenAI-მ ადრე განაცხადა, რომ პოლიციას არ შეატყობინა, რადგან ანგარიში არ აკმაყოფილებდა მის ზღვარს სხვებისთვის სერიოზული ფიზიკური ზიანის მიყენების სანდო ან გარდაუვალ გეგმაზე.
ეჭვმიტანილს შეეძლო შემდეგ გაეხსნა მეორე ChatGPT ანგარიში, მიუხედავად იმისა, რომ წარსულში OpenAI-ის სისტემებმა გააფრთხილეს და "განაგრძო იარაღის ძალადობის სცენარების დაგეგმვა".
სარჩელი ამტკიცებს, რომ კომპანიას "ჰქონდა კონკრეტული ცოდნა მსროლელის ფართომასშტაბიანი დაგეგმვის შესახებ მასობრივი მსხვერპლისთვის", მაგრამ "არ მიუღია რაიმე ნაბიჯი ამ ცოდნაზე მოქმედებისთვის".
მოსარჩელეები აცხადებენ, რომ კომპანიის ქცევის შედეგად, გებალამ, რომელიც მსროლელმა სამჯერ ესროლა მას შემდეგ, რაც ბიბლიოთეკის კარის ჩაკეტვა სცადა, რათა მსროლელი გარეთ დაეტოვებინა, განიცადა "კატასტროფული თავის ტვინის დაზიანება".
BBC-სთვის გაკეთებულ განცხადებაში OpenAI-ის სპიკერმა მოვლენას უწოდა "გამოუთქმელი ტრაგედია" და დასძინა, რომ მისი ფიქრები მსხვერპლებთან, მათ ოჯახებთან და საზოგადოებასთან რჩება.
"OpenAI რჩება ერთგული იმუშაოს მთავრობისა და სამართალდამცავ ორგანოებთან, რათა განახორციელოს მნიშვნელოვანი ცვლილებები, რომლებიც დაეხმარება მომავალში მსგავსი ტრაგედიების თავიდან აცილებას", - განაცხადა სპიკერმა.
4 მარტს, OpenAI-ის აღმასრულებელი დირექტორი, სემ ალტმანი, ვირტუალურად შეხვდა კანადის ხელოვნური ინტელექტის მინისტრს, ევან სოლომონს და ბრიტანეთის კოლუმბიის პრემიერ-მინისტრს, დევიდ ების.
The Wall Street Journal-ის ცნობით, ალტმანმა "დაპირდა პოლიციისთვის პოტენციურად საზიანო ურთიერთქმედებების შესახებ შეტყობინების შესახებ პროტოკოლების გაძლიერებას" და ბოდიშის მოხდას ტუმბლრჯის საზოგადოებისთვის.
26 თებერვალს კანადის ოფიციალური პირებისთვის გაგზავნილ ღია წერილში, რომელიც გაიზიარა მედია საშუალებებმა, OpenAI-ის გლობალური პოლიტიკის ვიცე-პრეზიდენტმა, კომპანიამ განაცხადა, რომ ბოლო რამდენიმე თვის განმავლობაში განახორციელა ცვლილებების სერია, მათ შორის "ფსიქიკური ჯანმრთელობისა და ქცევითი ექსპერტების" დახმარების მიღება შემთხვევების შესაფასებლად და პოლიციისთვის მიმართვის კრიტერიუმების "უფრო მოქნილი" გახდომა.
ცვლილებების გამო, OpenAI-ის თქმით, ეჭვმიტანილის ChatGPT-ის ანგარიშს ახალი მითითებების მიხედვით შეატყობინებდა.
"ჩვენ ვალდებულებას ვიღებთ გავაძლიეროთ ჩვენი გამოვლენის სისტემები, რათა უკეთ ავიცილოთ თავიდან ჩვენი უსაფრთხოების ზომების გვერდის ავლის მცდელობები და პრიორიტეტი მივცეთ უმაღლესი რისკის მქონე დამნაშავეების იდენტიფიცირებას", - წერდა კომპანია.
OpenAI ასევე განაცხადა, რომ ის დაამყარებდა კანადის სამართალდამცავ ორგანოებთან პირდაპირ საკონტაქტო პირს, რათა სწრაფად მონიშნოს ნებისმიერი შესაძლო მომავალი შემთხვევა "რეალურ სამყაროში ძალადობის პოტენციალით".
კანადის ხელოვნური ინტელექტის მინისტრმა ევან სოლომონმა 27 თებერვალს განაცხადა, რომ მიუხედავად იმისა, რომ კანონმდებლებმა დაინახეს ტექნიკური კომპანიის მზადყოფნა გააუმჯობესოს თავისი პროტოკოლები, "ჩვენ ჯერ არ გვინახავს დეტალური გეგმა იმის შესახებ, თუ როგორ განხორციელდება ეს ვალდებულებები პრაქტიკაში".
დარეგისტრირდით ჩვენს Tech Decoded საინფორმაციო ბიულეტენში, რათა თვალყური ადევნოთ მსოფლიოს საუკეთესო ტექნოლოგიურ ამბებსა და ტენდენციებს. დიდი ბრიტანეთის გარეთ ხართ? დარეგისტრირდით აქ.
