Amazon предупредил Белый дом о дыре в Fable 5 — и — ინსაითი

აშშ-ის ხელისუფლებამ ეროვნული უსაფრთხოების დაცვისა და კიბერუსაფრთხოების რისკების თავიდან აცილების მიზნით საექსპორტო კონტროლი დააწესა Anthropic-ის ორ წამყვან მოდელზე, კერძოდ კი Claude Fable 5-სა და Claude Mythos-ზე. საინფორმაციო გამოცემა Politico-მ დეტალურად აღადგინა იმ 24 საათის დრამატული ქრონოლოგია, რომელმაც საბოლოოდ ამ გადაწყვეტილებამდე მიიყვანა მხარეები.

მოვლენების ეპიცენტრში მოულოდნელად აღმოჩნდა ტექნოლოგიური გიგანტი Amazon-ი, რომელმაც თეთრი სახლი Claude Fable 5-ის უსაფრთხოების სისტემაში არსებული სერიოზული ხარვეზის შესახებ გააფრთხილა. სიტუაციის მთავარი პარადოქსი და ირონია იმაში მდგომобობს, რომ Amazon-ი თავად არის Anthropic-ის ერთ-ერთი ყველაზე მსხვილი ფინანსური მხარდამჭერი და პარტნიორი, რომელმაც ამ ხელოვნური ინტელექტის ლაბორატორიაში მილიარდობით დოლარის ინვესტიცია განახორციელა.

გავრცელებული ინფორმაციით, Amazon-ის ინჟინრებმა აღმოაჩინეს, რომ თუ Claude Fable 5-ს კოდში შეცდომების მოძიებას სთხოვენ, მოდელი ისეთ კრიტიკულ ხარვეზებსაც პოულობს, რომელთა გამოყენებაც სისტემების გასატეხად არის შესაძლებელი. ეს პირდაპირ ეწინააღმდეგებოდა Anthropic-ის მტკიცებულებას, რომ მოდელის დამცავი მექანიზმები ბლოკავს ჰაკერული მიზნებისთვის მის გამოყენებას.

როგორც ირკვევა, Amazon-ს ეს ინფორმაცია საკუთარი ინიციატივით არ გაუვრცელებია და ამერიკული ადმინისტრაციის პირდაპირ მოთხოვნას უპასუხა, რომელიც ახალი მოდელის დამოუკიდებელ შეფასებას ითვალისწინებდა. Amazon-ის მიერ მოპოვებული მონაცემები დაუყოვნებლივ გადაეცა აშშ-ის ეროვნული უსაფრთხოების სააგენტოს (NSA), სადაც ექსპერტებმა დაადასტურეს, რომ აღმოჩენილი ხარვეზი რეალურ საფრთხეს წარმოადგენდა და მათ ხელთ არსებული მტკიცებულებები ამას ნათლად ადაсტურებდა.

Amazon-ის გარდა, Claude Fable 5-ის უსაფრთხოების ანალოგიური პრობლემების შესახებ კიდევ რამდენიმე პარტნიორმა კომპანიამ განაცხადა, რამაც სახელმწიფო უწყებების შეშფოთება კიდევ უფრო გაზარდა. პარასკევს დილით შექმნილი კრიტიკული სიტუაცია პირდაპირ თეთრი სახლის უმაღლესი დონის ოფიციალური პირების განხილვის საგნად იქცა, რის შემდეგაც გადაწყდა, რომ სასწრაფო ზომები იყო მისაღები.

Anthropic-ის აღმასრულებელმა დირექტორმა, დარიო ამოდეიმ, თეთრი სახლის წარმომადგენლებთან დაახლოებით 3 სატელეფონო ზარი განახორციელა, რომელშიც 6 მაღალი რანგის სახელმწიფო მოხელე მონაწილეობდა. მათ შორის იყვნენ აშშ-ის ფინანსთა მინისტრი სკოტ ბესენტი, თეთრი სახლის კიბერდირექტორი შონ კერნკროსი და ვაჭრობის მინისტრი ჰოვარდ ლატნიკი.

სატელეფონო საუბრების დროს დარიო ამოდეი აქტიურად იცავდა კომპანიის პროდუქტს და აცხადებდა, რომ საუბარი იყო მხოლოდ სპეციფიკურ და ვიწრო ხასიათის ხარვეზზე და არა სისტემურ საფრთხეზე, რომელიც მოდელის სრულ ბლოკირებას მოითხოვდა. თუმცა, მისმა არგუმენტებმა სახელმწიფო მოხელეები ვერ დაარწმუნა, ხოლო ფინანსთა მინისტრმა სკოტ ბესენტმა მას პირდაპირ განუცხადა, რომ ის ძალიან „ცუდ გადაწყვეტილებას“ იღებდა.

ტექნიკური თვალსაზრისით, Amazon-ის მიერ აღმოჩენილი პრობლემა იმაში მდგომარეობს, რომ მოდელი კოდის შეცდომების ძიებისას მომხმარებელს აწვდის დეტალურ გზამკვლევს, თუ როგორ შეიძლება ამა თუ იმ სუსტი წერტილის პრაქტიკული გამოყენება. სახელმწიფო კიბერუსაფრთხოების ექსპერტების აზრით, ეს მნიშვნელოვნად ამცირებს ჰაკერული თავდასხმებისთვის საჭირო დროს და ზრდის წარმატებული შეტევების ალბათობას.

ამ ეტაპზე მხარეთა ვერსიები ერთმანეთს რადიკალურად ეწინააღმდეგება. თეთრი სახლი ამტკიცებს, რომ ისინი საათების განმავლობაში სთხოვდნენ კომპანიას ერთობლივ მუშაობას საფრთხის აღმოსაფხვრელად. Anthropic-ის შიდა წყაროები კი აცხადებენ, რომ მათ მოდელების გათიშვისთვის მხოლოდ 90 წუთი მისცეს და ყოველგვარი ტექნიკური დეტალების გარეშე აიძულეს გადაწყვეტილების მიღება.

კომპანიასა და ადმინისტრაციას შორის დაპირისპირება ისეთ დეტალებსაც შეეხო, როგორიცაა კავშირის დამყარების დრო. თეთრი სახლის წარმომადგენლები ამტკიცებდნენ, რომ მათ გაუჭირდათ დარიო ამოდეისთან დაკავშირება, რადგან ის გამაჯანსაღებელ ცენტრში იმყოფებოდა და ტელეფონს არ პასუხობდა. Anthropic-მა ეს ინფორმაცია კატეგორიულად უარყო და განაცხადა: „ეს არის სრული სიცრუე“.

საკუთარ ოფიციალურ განცხადებაში Anthropic-ი ხაზგასმით აღნიშნავს, რომ უსაფრთხოების აბსოლუტური გარანტიის შექმნა დღევანდელ ტექნოლოგიურ რეალობაში შეუძლებელია და არცერთ ლაბორატორიას არ შეუძლია სრულიად გამორიცხოს გვერდის ავლის მცდელობები. კომპანიის განმარტებით, ამერიკის ხელისუფლებამ წინასწარ იცოდა Claude Fable 5-ის ბაზარზე გამოშვების გეგმის შესახებ და იმ ეტაპზე არანაირი ოფიციალური პრეტენზია ან შეზღუდვა არ გამოუთქვამს.

ადმინისტრაციის მხრიდან მოლაპარაკებებში ასეთი მაღალი დონის პირების ჩართვა, მიუთითებს იმაზე, თუ რაოდენ დიდ მნიშვნელობას ანიჭებს თეთრი სახლი ხელოვნური ინტელექტის უსაფრთხოებასა და ეროვნული უსაფრთხოების საკითხებს. ეს ფაქტი ასევე ცხადყოფს, რომ ტექნოლოგიური კომპანიებისა და სახელმწიფოს ურთიერთობა სულ უფრო დაძაბულ ფაზაში შედის.

მანამდე გამოცემა Axios-ის მიერ გავრცელებული ცნობების თანახმად, აშშ-ის ხელისუფლება გეგმავს Anthropic-ის ახალი მოდელის დაბლოკვას მხოლოდ რამდენიმე კვირის განმავლობაში. ეს დრო გამოყენებული იქნება ამერიკული სახელმწიფო ორგანოებისა და ოფიციალური უწყებების კიბერდაცვითი სისტემების გაძლიერებისთვის, რის შემდეგაც მოდელების მუშაობა სავარაუდოდ კვლავ აღდგება.