The Anthropic ‘Fable’ saga proves: we have opened — ინსაითი

ხელოვნური ინტელექტის წამყვანმა და მწარმოებელმა კომპანიამ, Anthropic-მა, გასული კვირის ბოლოს ოფლაინ რეჟიმში გადაიყვანა თავისი ახალი მოდელები, Claude Fable 5 და Mythos 5. ეს გადაწყვეტილება მოჰყვა აშშ-ის ხელისუფლების ექსპორტის კონტროლის დირექტივას, რომელიც ნებისმიერ უცხოელს ამ სერვისების გამოყენებას უკრძალავს. ვინაიდან კომპანიას არ შეუძლია ერთმანეთისგან მარტივად განასხვავოს ამერიკელი და უცხოელი მომხმარებლები, მან წვდომა ყველასთვის დაბლოკა.

ხელისუფლების წარმომადგენლებმა მოდელები საშიშ იარაღად დაასახელეს, რადგან მიიჩნევს, რომ Fable 5-ის უსაფრთხოების ბარიერების მოხსნა მარტივად არის შესაძლებელი. Anthropic-ის უსაფრთხოების ჯგუფის ხელმძღვანელმა, ლოგან გრემმა, განმარტა, რომ კომპანია პარასკევიდან აწარმოებს მოლაპარაკებებს თეთრ სახლთან, თუმცა შეთანხმება ჯერჯერობით ვერ მიაღწია. მოდელი Mythos 5 თავდაპირველად კერძო ჯგუფის, Project Glasswing-ისთვის იყო განკუთვნილი.

Project Glasswing-ში შემავალმა ორგანიზაციებმა Mythos Preview ჯერ კიდევ აპრილში მიიღეს, რათა მოდელის შესაძლებლობები შეემოწმებინათ. Claude Fable 5 კი საზოგადოებისთვის 9 ივნისს გახდა ხელმისაწვდომი, თუმცა მისი გამოყენება მხოლოდ 3 დღის განმავლობაში აღმოჩნდა შესაძლებელი. 12 ივნისს დაწესებული აკრძალვის შემდეგ კომპანიამ წვდომა სრულად შეზღუდა, რამაც მომხმარებელთა უკმაყოფილება გამოიწვია.

Cybersecurity-ის სპეციალისტების შეფასებით, ემბარგო რეალურ საფრთხეს ვერ შეამცირებს, რადგან სხვა კომპანიებიც მალე შექმნან მსგავსი შესაძლებლობების მქონე მოდელები. ჰარვარდის უნივერსიტეტის მკვლევარმა, ბრიუს შნაიერმა, განაცხადა, რომ პრაღის ერთ-ერთმა ფირმამ უკვე შეძლო Anthropic-ის შესაძლებლობების რეპლიკაცია ბევრად მცირე მოდელითა და დახვეწილი მართვის სისტემით.

ბრიუს შნაიერის თქმით, Fable 5-ის აკრძალვა მხოლოდ დროებითი შეფერხებაა: „მცირე და იაფი მოდელები, ზოგჯერ დამოუკიდებლად და ზოგჯერ ერთობლივად მუშაობისას, Fable-ის დონეს აღწევენ.“ ხელოვნური ინტელექტის მკვლევარმა, საიმონ ვილისონმა, ახალ მოდელს უწოდა „დაუნდობლად პროაქტიული“ და აღნიშნა, რომ Fable 5-ს შეუძლია იპოვოს ნებისმიერი ხვრელი სისტემურ შეზღუდვებში.

საიმონ ვილისონი მიიჩნევს, რომ Fable 5-ის უპირატესობა დამოუკიდებელი მართვის უნარია. კომპანიები, რომლებიც ერთმანეთს ეჯიბრებიან, უსაფრთხოების დეტალებს საიდუმლოდ ინახავენ, რაც პრობლემის გამწვავებას უწყობს ხელს. ტექნოლოგიური პროგრესი კი იმდენად სწრაფია, რომ მკაცრი აკრძალვები მხოლოდ მცირე ხნით აფერხებს პროცესს და რეალურ გამოსავალს ვერ გვთავაზობს.

უსაფრთხოების კონსალტინგური კომპანიის, TPO Group-ის ხელმძღვანელმა, ტარა ვილერმა, მიუთითა, რომ Anthropic-ის კონკურენტებიც მზად არიან მსგავსი პროდუქტების გამოსაშვებად. ისინი უბრალოდ აკვირდებიან, თუ როგორ მოიქცევა აშშ-ის მთავრობა. OpenAI-მ ჯერ კიდევ აპრილის შუა რიცხვებში გამართა საკუთარი უსაფრთხოების მოდელის დახურული პრეზენტაცია და ახალი სტრატეგია წარადგინა.

უსაფრთხოების კომპანია Veracode-ის თანადამფუძნებელმა, კრის ვისოპალმა, აღნიშნა: „მთავარი კითხვა ისაა, თუ რამდენად რეალურად ამცირებს კონკრეტული შეზღუდვა რისკს.“ კრის ვისოპალმა დაამატა, რომ ემბარგომ შეიძლება მხოლოდ შეაფერხოს ის ადამიანები, რომლებიც სისტემების უსაფრთხოებაზე მუშაობენ. cybersecurity-ის წამყვანმა ლიდერებმა ამ საკითხზე ადმინისტრაციას ღია წერილით მიმართეს.

Anthropic-ის წარმომადგენლები აცხადებენ, რომ მოდელი Mythos 5 cybersecurity-ის გარდა ბიოლოგიურ კვლევებშიც გამოიყენება. თეთრი სახლი შიშობს, რომ მოდელის ხელში ჩაგდება მავნებლებს ბიოლოგიური იარაღის შექმნაში დაეხმარება. კომპანიამ Claude Fable 5-ის საჯარო ვერსიაში დააწესა ბლოკები ბიოლოგიურ შეკითხვებზე, თუმცა ხელისუფლებამ ეს ზომა არასაკმარისად მიიჩნია.

პრაღის მკვლევართა ჯგუფმა დაადასტურა, რომ რამდენიმე იაფი მოდელის ერთობლივი მუშაობა Fable 5-ის დონეს აღწევს. ეს ნიშნავს, რომ მხოლოდ ერთი კომპანიის აკრძალვა გლობალურ პროგრესს ვერ შეაჩერებს. მკვლევარები აცხადებენ, რომ 6, 12 ან 24 თვის შემდეგ ეს შესაძლებლობები ფართოდ იქნება ხელმისაწვდომი ყველასთვის, მიუხედავად სახელმწიფო შეზღუდვებისა.

ბრიუს შნაიერი მიიჩნევს, რომ აშშ-ის მთავრობას არ აქვს სურვილი ეფექტურად დაარეგულიროს მსხვილი კორპორაციები. ეს კომპანიები კი დიდ ზიანს აყენებენ დემოკრატიასა და საზოგადოებას. საზოგადოებრივი ალტერნატივის შექმნა სულ უფრო აქტუალური ხდება, რათა ტექნოლოგიური პროგრესი მხოლოდ კერძო ინტერესებს არ ემსახურებოდეს. უსაფრთხოების ბალანსი საჯარო უნდა გახდეს.