Insights

🤖 Anthropic-ის Fable 5 ორკვირიანი აკრძალვის შემდეგ გლობალურად დაბრუნდა

ტექნოლოგიურმა გიგანტმა Anthropic-მა თავისი მეორე ყველაზე ძლიერი ხელოვნური ინტელექტის მოდელი Fable 5 მთელ მსოფლიოში ხელმისაწვდომი გახადა. ორკვირიანი იძულებითი პაუზა, რომელიც ამერიკის შეერთებული შტატების მთავრობის საექსპორტო აკრძალვით იყო განპირობებული, დღეს ოფიციალურად დასრულდა. მომხმარებლებს უკვე შეუძლიათ გამოიყენონ აღნიშნული სისტემა სხვადასხვა პლატფორმაზე, მათ შორის Claude.ai-ზე, Claude Code-სა და Claude Cowork-ის ინტერფეისებში. მედიასაშუალება The Decoder-ის ინფორმაციით, შეზღუდვების მოხსნის გადაწყვეტილება მას შემდეგ მიიღეს, რაც მოდელის უსაფრთხოების ფილტრები მნიშვნელოვნად გაძლიერდა. თავდაპირველი აკრძალვის მიზეზი გახდა Amazon-ის მკვლევრების მიერ აღმოჩენილი სერიოზული დაცვის ხარვეზი. მათი დასკვნით, Fable 5-ის უსაფრთხოების ბარიერების გვერდის ავლით შესაძლებელი იყო სხვადასხვა პროგრამული სუსტი წერტილის იდენტიფიცირება და შესაბამისი კოდის გენერირება. ჟურნალისტი მათიას ბასტიანი თავის სტატიაში დეტალურად აღწერს იმ საფრთხეებს, რომლებმაც სახელმწიფო უწყებების შეშფოთება გამოიწვია. მოდელმა შეძლო პროგრამული ხარვეზების პოვნა და ერთ-ერთ ტესტში აჩვენა, თუ როგორ უნდა მომხდარიყო ამ ხარვეზის რეალური გამოყენება მავნე მიზნებისთვის. სწორედ ამ ინციდენტის გამო კომპანიამ სასწრაფო წესით შეაჩერა უცხოელი მომხმარებლებისთვის სისტემის მიწოდება. კომპანიის წარმომადგენელმა განმარტა, რომ აბსოლუტურად გაუმტარი ხელოვნური ინტელექტის შექმნა პრაქტიკულად შეუძლებელია. მან განაცხადა: „ალბათ სრულიად შეუძლებელია ისეთი მოდელის შექმნა, რომელიც აბსოლუტურად დაცული იქნება გვერდის ავლის მცდელობებისგან“. ამის მიუხედავად, კომპანიის სპეციალისტებმა შეიმუშავეს ახალი უსაფრთხოების კლასიფიკატორი, რომელიც Amazon-ის მოხსენებაში აღწერილ ტექნიკას შემთხვევათა 99%-ში ბლოკავს. დამატებითმა კვლევებმა აჩვენა, რომ ანალოგიური სუსტი წერტილების აღმოჩენა სხვა შედარებით სუსტ მოდელებსაც შეეძლოთ. ტესტირებაში მონაწილეობდნენ ისეთი სისტემები, როგორიცაა Claude Opus 4.8, GPT-5.5 და Kimi K2.7. თუმცა, კონკრეტული ექსპლოიტის დემონსტრირებისას, ყველა შემოწმებულმა მოდელმა, მათ შორის ბევრად მცირე ზომის Claude Haiku 4.5-მაც კი, აჩვენა ზუსტად იდენტური შედეგი, რაც პრობლემის მასშტაბზე მიუთითებს. ახალ დაცვის ფილტრს თან ახლავს გარკვეული უარყოფითი მხარეებიც, რაც მომხმარებელთა უკმაყოფილებას იწვევს. გაუმჯობესებული სისტემა ხშირად ბლოკავს სრულიად უსაფრთხო პროგრამულ მოთხოვნებს ყოველდღიური კოდირების ან დეველოპმენტის დროს. კომპანიის მონაცემებით, ახალი დაცვის ზღვარი ბევრად უფრო ფართოა, რაც ზრდის უსაფრთხოებას, მაგრამ ამავე დროს ზღუდავს დეველოპერების თავისუფალ მუშაობას. დეტალური გეგმის მიხედვით, Fable 5 მოდელზე წვდომა ამჟამად გათვალისწინებულია Pro, Max, Team და Enterprise გეგმების მომხმარებლებისთვის 7 ივლისამდე. ამ პერიოდში მათ შეეძლებათ გამოიყენონ თავიანთი ყოველკვირეული ლიმიტის 50%-მდე, ხოლო ამ ვადის გასვლის შემდეგ ანგარიშსწორება მოხდება მოხმარებული კრედიტების საფუძველზე. ღრუბლოვან სერვისებზე, როგორიცაა AWS და Google Cloud, წვდომა უახლოეს პერიოდში აღდგება. პარალელურად, მოდელის შედარებით ნაკლებად შეზღუდული ვერსია Mythos 5 კვლავ მკაცრი კონტროლის ქვეშ რჩება. ამ ვერსიით სარგებლობა მხოლოდ ამერიკულ ორგანიზაციებს შეუძლიათ, რომლებმაც სახელმწიფო ნებართვა 26 ივნისს მიიღეს. კომპანია აგრძელებს მუშაობას ხელისუფლებასთან, რათა გააფართოოს პარტნიორთა წრე Glasswing პროგრამის ფარგლებში, თუმცა ევროკავშირის ამ ინიციატივაში ჩართვა კვლავ გაურკვეველია. უსაფრთხოების ექსპერტები თანხმდებიან, რომ ინდუსტრიას სჭირდება ერთიანი სტანდარტები გვერდის ავლის შემთხვევების შესაფასებლად. Anthropic ახლა აქტიურად მუშაობს Microsoft-თან, Google-თან და Amazon-თან ერთად ასეთი ჩარჩოს შესაქმნელად. გარდა ამისა, კომპანიამ გახსნა სპეციალური HackerOne პროგრამა, სადაც მკვლევრებს შეუძლიათ შეატყობინონ უსაფრთხოების ახალი ხარვეზების შესახებ და მიიღონ შესაბამისი ჯილდო. საბოლოო ჯამში, ტექნოლოგიური გიგანტი აფართოებს თანამშრომლობას ამერიკის შეერთებული შტატების მთავრობასთან უსაფრთხოების მიმართულებით. კომპანია იღებს ვალდებულებას, რომ სახელმწიფო უწყებებს მიაწოდოს მოდელებზე წინასწარი წვდომა მათ ოფიციალურ გამოშვებამდე. ეს საშუალებას მისცემს კიბერუსაფრთხოების სპეციალისტებს, დროულად მოახდინონ რეაგირება შესაძლო საფრთხეებზე და დაიცვან ციფრული ინფრასტრუქტურა. კიბერუსაფრთხოების ექსპერტების შეფასებით, მთავრობის ჩართულობა ხელოვნური ინტელექტის გამოშვებაში უნდა იყოს გამჭვირვალე და პროგნოზირებადი. კომპანია მზად არის გამოყოს მნიშვნელოვანი გამოთვლითი რესურსები ერთობლივი კვლევებისთვის. ეს ხელს შეუწყობს იმის უზრუნველყოფას, რომ კიბერდამცველებს ჰქონდეთ საჭირო ინფორმაცია ძლიერი მოდელების მუშაობის შესახებ და შეძლონ ეფექტური უსაფრთხოების ზომების დროული შემუშავება.