🛑 საკმარისია თუ არა რეგულაცია AI-ის კატასტროფის თავიდან ასაცილებლად
ხელოვნური ინტელექტის უსაფრთხოების გარშემო მიმდინარე დისკუსია ახალ ეტაპზე გადადის, სადაც ტექნოლოგიური რეგულაციების ეფექტიანობა სერიოზული კითხვის ნიშნის ქვეშ დგება. ლონდონის გრეშემის კოლეჯის პროფესორმა მარტინ თომასმა The Guardian-ში გამოქვეყნებულ წერილში მკაცრად გააკრიტიკა მიდგომა, რომელიც მხოლოდ ზოგად ზედამხედველობას ეყრდნობა. მისი შეფასებით, ექსპერტები ხშირად მოითხოვენ კონტროლს, თუმცა რეალური შემოწმების მექანიზმები არ არსებობს. ინჟინერიის სფეროში კრიტიკული პროგრამული უზრუნველყოფის მართვის მრავალწლიანი ტრადიცია არსებობს, რაც საავიაციო და ატომურ სფეროებში მკაცრად მოქმედებს. პროფესორმა აღნიშნა, რომ საავიაციო სისტემებში სტანდარტები მოითხოვს დეტალურ ანალიზს, რათა კატასტროფის ალბათობა უკიდურესად დაბალი იყოს. მსგავსი მკაცრი მოთხოვნები ციფრული მოდელების მიმართ ამ დრომდე არ გამოიყენება, რაც ინდუსტრიაში გაურკვევლობას ქმნის. საინჟინრო პრაქტიკაში უსაფრთხოების დასაბუთება უნდა აჩვენებდეს, რომ მძიმე ავარია 1000 წელიწადში ერთხელაც არ მოხდება, მინიმუმ 99 პროცენტის სიზუსტით. მარტინ თომასმა ხაზი გაუსვა, რომ ასეთი დაბალი ალბათობის დამტკიცება ავიაციაშიც კი რთულია, სადაც ერთ ინციდენტს მაქსიმუმ 1000 ადამიანის სიცოცხლე შეიძლება ემსხვერპლოს. ხელოვნური ინტელექტის შემთხვევაში კი რისკები გლობალურ მასშტაბებს აღწევს. ფრონტირული მოდელების შემქმნელი კომპანიები საზოგადოებას ხშირად აფრთხილებს, რომ მათმა სისტემებმა შეიძლება კაცობრიობა გაანადგუროს. ამის მიუხედავად, დეველოპერებს არ წარმოუდგენიათ რისკების დეტალური ანალიზი და უსაფრთხოების რეალური დოკუმენტაცია. მკვლევარმა განაცხადა, რომ დამოუკიდებელი აუდიტისთვის გამოსადეგი მტკიცებულებები დღემდე არ შექმნილა, რაც რეგულატორებს რეალური ბერკეტების გარეშე ტოვებს. ბოლო პერიოდში უსაფრთხოების გამოცდების ჩავარდნის გამო მოწინავე სისტემების გაშვება რამდენჯერმე შეფერხდა. კერძოდ, 2026 წლის 28 სექტემბერს OpenAI-მ ახალი მოდელის ოფიციალური გამოშვება შიდა ტესტირებისას გამოვლენილი ხარვეზების გამო შეაჩერა. ეს ფაქტი ადასტურებს, რომ ლაბორატორიებში შექმნილი ალგორითმები გაუთვალისწინებელ ქცევას ავლენს და სტანდარტულ შემოწმებებს ვერ გადის. პროფესორი თომასი მიიჩნევს, რომ პოლიტიკური გადაწყვეტილებები ილუზიების ნაცვლად კონკრეტულ ფაქტებს უნდა დაეფუძნოს. „პოლიტიკა უნდა ეფუძნებოდეს ფაქტების მკაცრ ანალიზს და არა ფანტაზიას“, - დაადასტურა მან საკუთარ განცხადებაში. მისი თქმით, რაციონალური მიდგომა მოითხოვს, რომ ტექნოლოგიურმა კომპანიებმა დაამტკიცონ სისტემების საიმედოობა მათ საჯარო სივრცეში გამოჩენამდე. საჯარო დისკუსიებში ხშირად ისმის მოწოდებები საერთაშორისო რეგულაციების შექმნის შესახებ, თუმცა კონკრეტული სტანდარტები ჯერ კიდევ ჩამოუყალიბებელია. ბრიტანელი მეცნიერის შეფასებით, თუ არ განისაზღვრება ზუსტი საინჟინრო კრიტერიუმები, ვერცერთი სახელმწიფო სააგენტო ვერ შეძლებს ალგორითმების შემოწმებას. ფორმალური კომისიები ვერ შეცვლის მათემატიკურად დადასტურებულ უსაფრთხოების გარანტიებს. კომპიუტერული სისტემების სირთულე ყოველწლიურად იზრდება, რაც ავტონომიური მოდელების პროგნოზირებადობას კიდევ უფრო ამცირებს. 1 წამყვანი ლაბორატორიაც კი ვერ იძლევა გარანტიას, რომ მათი ნეიროქსელები კრიტიკულ მომენტში შეცდომას არ დაუშვებს. სპეციალისტები შიშობენ, რომ გაურკვეველი რეგულაციები მხოლოდ ბიუროკრატიულ ფასადს შექმნის და რეალურ პრობლემებს ვერ მოაგვარებს. თანამედროვე ავიაციაში თვითმფრინავის თითოეული დეტალი სერტიფიცირებას გადის, სანამ მგზავრებთან ერთად ჰაერში აფრინდება. მეცნიერმა განმარტა, რომ მსგავსი სერტიფიცირება ხელოვნური ინტელექტის ინდუსტრიაშიც აუცილებელი უნდა გახდეს. წინააღმდეგ შემთხვევაში, საზოგადოება დაუცველი დარჩება ისეთი სისტემების წინაშე, რომელთა მუშაობის ლოგიკა თავად შემქმნელებსაც ბოლომდე არ ესმით. OpenAI-ს მიერ ახალი მოდელის გაუქმებამ კიდევ ერთხელ დაანახა მსოფლიოს, რომ კომპანიები შიდა კონტროლს სრულად ვერ ენდობა. როდესაც ალგორითმი საბაზისო ტესტებს ვერ გადის, მისი ინტეგრაცია მასობრივ სერვისებში საფრთხეს უქმნის მილიონობით ადამიანს. სწორედ ამიტომ, დამოუკიდებელი ექსპერტების ჩართულობა სასიცოცხლოდ მნიშვნელოვანი ხდება. ტექნოლოგიური გიგანტები ცდილობენ დაარწმუნონ მთავრობები, რომ თვითრეგულირება საკმარისია, თუმცა რეალობა საპირისპიროს აჩვენებს. ბრიტანელი ექსპერტები აღნიშნავენ, რომ სახელმწიფოებმა უნდა შეიმუშაონ საინჟინრო სტანდარტები, რომლებიც მოდელების გამოშვებამდე მკაცრ შემოწმებას დააწესებს. ეს პროცესი უნდა მოიცავდეს სრულ ტექნიკურ აუდიტს და გამჭვირვალე ანგარიშგებას. საბოლოო ჯამში, მომავალი თვეები აჩვენებს, შეძლებენ თუ არა გლობალური ინსტიტუტები საინჟინრო სიმკაცრის დანერგვას. პროფესორ მარტინ თომასის გაფრთხილება ნათლად უსვამს ხაზს, რომ ბუნდოვანი პოლიტიკური ლოზუნგები კატასტროფისგან ვერავის დაიცავს. ინდუსტრიას სჭირდება ზუსტი მეცნიერული დასაბუთება, რომელიც სისტემების უსაფრთხოებას ფაქტებით დაადასტურებს.
საკმარისია თუ არა რეგულაცია AI-ის კატასტროფის თავიდან ასაცილებლად
