მკვლევრებმა ChatGPT-ს ფარულ აზროვნების პროცესში პაროლებისა და API გასა

გამოცემა The Decoder-ის ინფორმაციით, კიბერუსაფრთხოების მკვლევარებმა აღმოაჩინეს ახალი ტიპის მოწყვლადობა, რომელიც ChatGPT-ს მსჯელობის მოდელებიდან (o-სერია) ფარული ტოკენების, შიდა ინსტრუქციებისა და გაჟონილი პაროლების ამოღებას ხდის შესაძლებელს. სპეციალური მოთხოვნების გამოყენებით ექსპერტებმა შეძლეს სისტემის დამცავი ბარიერების გვერდის ავლით იმ მონაცემების ნახვა, რაც მომხმარებლისთვის დაფარული უნდა ყოფილიყო. ეს ფაქტი სისტემურ ხარვეზებზე მიუთითებს.

კვლევის ფარგლებში გაირკვა, რომ რთული მსჯელობის ეტაპზე მოდელი შიდა მეხსიერებიდან აგენერირებს ტრენინგის დროს შთანთქმულ სენსიტიურ ინფორმაციას, მათ შორის API გასაღებებსა და კერძო კომუნიკაციებს. ეს გარემოება აჩვენებს, რომ ხელოვნური ინტელექტის აზროვნების ჯაჭვი (Chain of Thought) კიბერშეტევებისთვის ახალ და მოულოდნელ ზედაპირს ქმნის, რაც ინდუსტრიას აფრთხილებს და უსაფრთხოების გადახედვას აიძულებს.

კიბერუსაფრთხოების წამყვანმა მკვლევარმა პრესასთან საუბარში განაცხადა: „ფარული მსჯელობის არქიტექტურა მომხმარებლისგან მონაცემებს მალავს, თუმცა სისტემის შიდა უსაფრთხოებას ვერ უზრუნველყოფს“. ექსპერტის თქმით, დეველოპერები ვალდებულია გაამკაცროს ფილტრაციის მექანიზმები, რათა მოდელმა სენსიტიური ინფორმაციის გენერირება მთლიანად შეწყვიტოს და მომხმარებელთა კონფიდენციალურობა სრულად დაიცვას.

დარგობრივი ანალიტიკოსების მონაცემებით, ტესტირების დროს 15-ზე მეტი სხვადასხვა მოწყვლადობა დაფიქსირდა, ხოლო შეტევების წარმატების მაჩვენებელმა 75 პროცენტს მიაღწია. ამ ფაქტმა ტექნოლოგიურ კომპანიებს უსაფრთხოების პროტოკოლების სასწრაფო განახლებისკენ უბიძგა, რათა კორპორაციული მონაცემების დაცვა გარანტირებული იყოს და ბიზნესის რეპუტაცია არ დაზიანდეს.

დარგის ექსპერტების შეფასებით, მსჯელობის მოდელები იყენებს მილიონობით გამოთვლით პარამეტრს გადაწყვეტილების მისაღებად. როდესაც მომხმარებელი აგზავნის ადვერსარიალურ მოთხოვნას, ნეირონული ქსელი იწყებს ფარული ტოკენების გენერირებას, რაც სისტემის სრულ დეკომპილაციას იწვევს და უსაფრთხოების მექანიზმებს ანეიტრალებს, რაც დიდ საფრთხეს ქმნის.

იურიდიული ცენტრების ცნობით, მსგავსი ინციდენტები ქმნის სერიოზულ სამართლებრივ რისკებს GDPR-ისა და მონაცემთა დაცვის საერთაშორისო რეგულაციების ფარგლებში. კომპანიები, რომლებიც AI მოდელებს კრიტიკულ ინფრასტრუქტურაში ნერგავს, იძულებულია დამატებითი აუდიტი ჩაატაროს და რისკები შეაფასოს, რათა ჯარიმები თავიდან აიცილოს.

ტექნოლოგიური ლაბორატორიები აღნიშნავს, რომ გასული 2 წლის განმავლობაში AI უსაფრთხოების შემოწმებებზე მოთხოვნა 60 პროცენტით გაიზარდა. ინჟინრები ცდილობს შექმნას ახალი დამცავი ფილტრები, რათა მსჯელობის ტოკენები სრულად იზოლირებული დარჩეს და გაჟონვა გამოირიცხოს, რაც სისტემების საიმედოობას გაზრდის.

საინფორმაციო გამოცემები წერს, რომ OpenAI-მ უკვე დაიწყო მოდელების პატჩირება და დამატებითი შეზღუდვების დაწესება, თუმცა სრული დაცვა ჯერჯერობით მიღწეული არ არის, რაც სისტემურ სირთულეებზე მიუთითებს და დამატებით რესურსებს მოითხოვს.

საფინანსო ინსტიტუტები განმარტავს, რომ საბანკო და სადაზღვევო სექტორში მსგავსი მოდელების გამოყენება განსაკუთრებულ სიფრთხილეს მოითხოვს, რათა მომხმარებელთა ფინანსური მონაცემები დაცული იყოს და კიბერდანაშაულის რისკები შემცირდეს.

სამოქალაქო ორგანიზაციები უწოდებს ამ აღმოჩენას სერიოზულ გაფრთხილებას, რომელიც ტექნოლოგიური გამჭვირვალობისა და უსაფრთხოების აუცილებლობაზე მიუთითებს გლობალურ დონეზე. უფლებადამცველები მოითხოვს დამოუკიდებელი ექსპერტების ჩართვას AI მოდელების აუდიტში, რათა მომხმარებელთა უფლებები სრულად იყოს დაცული.

საერთაშორისო დამკვირვებლები ადასტურებს, რომ კიბერშეტევების 40 პროცენტი დღეს სწორედ AI ინტერფეისების მოწყვლადობებზეა ორიენტირებული, რაც საფრთხეებს ზრდის და ახალ თავდაცვით ზომებს მოითხოვს. ანალიტიკოსები აღნიშნავს, რომ უსაფრთხოების რეგულარული ტესტირება კრიტიკულად აუცილებელია ნებისმიერი ორგანიზაციისთვის.

ტექნოლოგიური პორტალები მიუთითებს, რომ მკვლევრები აგრძელებს სისტემების ტესტირებას და ახალი შედეგების გამოქვეყნებას გეგმავს მომდევნო თვეებში, რათა საზოგადოების ცნობიერება ამაღლდეს.

სპეციალისტები დასძენს, რომ უსაფრთხოების სტანდარტების გამკაცრება AI ინდუსტრიის მდგრადი განვითარების უმთავრესი წინაპირობაა და გრძელვადიან ნდობას აყალიბებს.

ექსპერტები ასკვნის, რომ მონაცემთა კონფიდენციალურობის დაცვა ნებისმიერი ტექნოლოგიური ინოვაციის უპირველეს პრიორიტეტად უნდა დარჩეს. კიბერუსაფრთხოებისა და ხელოვნური ინტელექტის ჰარმონიული თანაარსებობა მხოლოდ მკაცრი კონტროლისა და საიმედო არქიტექტურის პირობებშია შესაძლებელი.