ბოლო ინფორმაცია

გერმანიაში ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტი გაიხსნა

მეტის ნახვა

გერმანიაში მუშაობა დაიწყო ხელოვნური ინტელექტის უსაფრთხოების ახალმა ინსტიტუტმა — AISI Deutschland-მა, რომლის ამოცანა ძლიერი AI-მოდელების შესაძლებლობებისა და მათთან დაკავშირებული რისკების შეფასება იქნება.ბერლინში დაფუძნებული ინსტიტუტი ივნისში გერმანიის ეროვნული უსაფრთხოების საბჭოს მიერ მიღებული გადაწყვეტილების საფუძველზე შეიქმნა. მისი საქმიანობის საწყის ეტაპს ორი ფედერალური უწყება წარმართავს — გერმანიის ინფორმაციული უსაფრთხოების ფედერალური სამსახური (BSI) და ფედერალური ქსელების სააგენტო.ახალი ინსტიტუტი ხელოვნური ინტელექტის უსაფრთხოებას ორი მიმართულებით შეაფასებს.პირველი მიმართულება — Security — AI-სისტემებისა და მათ მიერ გამოყენებული მონაცემების კიბერშეტევებისგან, უკანონო წვდომისა და ბოროტად გამოყენებისგან დაცვას მოიცავს. ამ ნაწილზე პასუხისმგებელი BSI იქნება.მეორე მიმართულებაა Safety — ხელოვნური ინტელექტის უსაფრთხო და გამართული ფუნქციონირება. ამ შემთხვევაში საუბარია არა მიზანმიმართულ თავდასხმაზე, არამედ სისტემის უნებლიე შეცდომებზე. მაგალითად, ავტონომიურმა ავტომობილმა შეიძლება დაბრკოლება დაგვიანებით აღმოაჩინოს, ხოლო სამედიცინო AI-მ რენტგენულ გამოსახულებაზე სიმსივნე ვერ ამოიცნოს. ამ მიმართულებას ფედერალური ქსელების სააგენტო უხელმძღვანელებს.პრაქტიკაში ამ ორი სფეროს ერთმანეთისგან მკაფიოდ გამიჯვნა ყოველთვის შესაძლებელი არ არის. AI-მოდელის ფუნქციონირებისას დაშვებული შეცდომა შეიძლება კიბერუსაფრთხოების პრობლემად გადაიქცეს, ხოლო სისტემაში შეღწევამ მისი ქცევა შეცვალოს და ადამიანებისთვის რეალური საფრთხე შექმნას.ძლიერი AI-მოდელების სწრაფმა განვითარებამ სახელმწიფოების წინაშე ახალი უსაფრთხოების საკითხები დააყენა. განსაკუთრებით საყურადღებოა ავტონომიური აგენტების ქცევა — სისტემების, რომლებსაც დავალებების შესრულება ადამიანის მუდმივი ჩარევის გარეშე შეუძლიათ.OpenAI-მ და Anthropic-მა ბოლო პერიოდში გამოაქვეყნეს ტესტირების შედეგები, რომლებშიც მათმა AI-მოდელებმა რეალურ კომპიუტერულ გარემოში მოულოდნელი და პოტენციურად სახიფათო მოქმედებები განახორციელეს. ასეთმა შემთხვევებმა კიდევ უფრო გააძლიერა დისკუსია, რამდენად მზად არიან სახელმწიფოები AI-ის დახმარებით განხორციელებული კიბერშეტევების ან სისტემების არაპროგნოზირებადი ქცევის შესაჩერებლად.გერმანიის ციფრული ტექნოლოგიების მინისტრის, კარსტენ ვილდბერგერის შეფასებით, ტექნოლოგიური განვითარების სისწრაფე ქვეყანას ეფექტიანი და პროფესიონალური AI-უსაფრთხოების ინსტიტუტის შექმნას ავალდებულებს.AISI Deutschland-მა ხელოვნური ინტელექტის ახალი მოდელები უნდა შეაფასოს მანამდე, სანამ მათი გამოყენება კრიტიკულ ინფრასტრუქტურაში, სახელმწიფო სერვისებში, მედიცინაში, ტრანსპორტსა და სხვა მნიშვნელოვან სფეროებში ფართოდ დაიწყება.ინსტიტუტის კიდევ ერთი მიზანი გერმანიისა და ევროპის ციფრული დამოკიდებულების შემცირებაა. დღეს ყველაზე ძლიერი AI-მოდელების დიდი ნაწილი ამერიკული და ჩინური კომპანიების მიერ იქმნება. ევროპული სახელმწიფოები კი ხშირად იყენებენ ტექნოლოგიებს, რომელთა მუშაობის პრინციპებსა და უსაფრთხოების სისტემებზე სრული კონტროლი არ აქვთ.BSI-ის ხელმძღვანელის, კლაუდია პლატნერის შეფასებით, ხელოვნური ინტელექტი უკვე არა მხოლოდ ტექნოლოგიური, არამედ სტრატეგიული უსაფრთხოების საკითხიცაა. AI გავლენას ახდენს სახელმწიფოს მართვაზე, ეკონომიკაზე, საზოგადოებრივ ურთიერთობებსა და ძალაუფლების განაწილებაზე. შესაბამისად, გერმანიას საკუთარი შესაძლებლობები სჭირდება, რათა დამოუკიდებლად შეაფასოს თანამედროვე მოდელების რისკები და მათზე რეაგირება შეძლოს.AISI Deutschland ასევე გაუწევს კონსულტაციას ფედერალურ მთავრობას და ითანამშრომლებს ევროპელ და ტრანსატლანტიკურ პარტნიორებთან. ერთ-ერთი მთავარი ამოცანა ახალი AI-მოდელების შეფასებისა და უსაფრთხო გამოყენების საერთო საერთაშორისო სტანდარტების შემუშავება იქნება.ახალი ინსტიტუტის შექმნა აჩვენებს, რომ ხელოვნური ინტელექტის საერთაშორისო კონკურენცია მხოლოდ იმაზე აღარ არის დამოკიდებული, ვინ შექმნის ყველაზე ძლიერ მოდელს. თანდათან არანაკლებ მნიშვნელოვანი ხდება მეორე კითხვაც — ვის ექნება შესაძლებლობა, ასეთი მოდელების უსაფრთხოება დამოუკიდებლად შეამოწმოს და მათი ქცევა გააკონტროლოს.წყარო: dpaფოტო: Britta Pedersen/dpa

მეტის ნახვა

AI News• 6 საათის წინ