Anthropic Disputes Fable 5 AI Jailbreak — ინსაითი

ხელოვნური ინტელექტის მკვლევარმა, რომელიც ონლაინ სივრცეში Pliny the Liberator-ის სახელით არის ცნობილი, განაცხადა, რომ Anthropic-ის ახალ მოდელ Claude Fable 5-ს უსაფრთხოების ფენა გვერდი აუარა და მისი დაახლოებით 120 000-სიმბოლოიანი სისტემური პრომპტი მოიპოვა. კომპანია Anthropic ამ შემთხვევას ნამდვილ „ჯეილბრეიკად" არ მიიჩნევს და მკვლევრის დასკვნებს სადავოდ ხდის.

Anthropic-მა Claude Fable 5 და Mythos 5 9 ივნისს წარადგინა. ცნობების თანახმად, Fable 5 კომპანიის უახლესი მოდელია, რომელიც ხანგრძლივი, აგენტური ამოცანებისთვისაა გათვლილი. გამოშვებიდან რამდენიმე დღეში Pliny the Liberator-მა სოციალურ ქსელსა და საჯარო GitHub რეპოზიტორიაში გამოაქვეყნა ის, რასაც მოდელის სრულ სისტემურ პრომპტს უწოდებს.

ინციდენტი 12 ივნისს გააშუქა კიბერუსაფრთხოების გამოცემა SecurityWeek-მა, ჟურნალისტ ედუარდ კოვაჩის ავტორობით. იმავე დღეს დეტალური მასალა მიუძღვნა გამოცემა TechTimes-მაც. ორივე პუბლიკაცია მკვლევრის განცხადებასა და კომპანიის პასუხს ცალ-ცალკე, ერთმანეთისგან გამიჯნულად აღწერს.

Anthropic-ის წარმომადგენელმა სადავოდ გახადა, რომ რეალური გვერდის ავლა მოხდა. კომპანიის ცნობით, „ნამდვილ ჯეილბრეიკს დასჭირდებოდა ძირითადი დამცავი მექანიზმების გვერდის ავლა და მაღალი რისკის შემცველ საქმიანობაში რეალური დახმარების გაწევა". ნაჩვენები ხერხი კი, კომპანიის შეფასებით, მოდელის დაყოლიებას ჰგავს, განაგრძოს პასუხი უარის მიუხედავად, რაც დიდი ენობრივი მოდელების ცნობილი შეზღუდვაა.

Pliny the Liberator-ის თქმით, მან „დახვეწილი მრავალაგენტიანი მეთოდები" გამოიყენა, რათა Fable 5-ის დაცვის ფენისთვის გვერდი აევლო და მგრძნობიარე, მაღალი რისკის თემებზე, მათ შორის კიბერუსაფრთხოებასა და ქიმიაზე, ისევე როგორც სხვა მსგავს კატეგორიებზე, ინფორმაცია მიეღო. გამოქვეყნებული მასალის ტექნიკურ დეტალებს კომპანია ჯერ არ ადასტურებს.

Anthropic-ის შეფასებით, Fable 5-ის გამოშვებამდე უსაფრთხოების სისტემის შესამოწმებლად 1 000 საათზე მეტი დაიხარჯა და უნივერსალური „ჯეილბრეიკი" არ გამოვლენილა. კომპანიის პოზიციით, განსხვავება დაცვის რეალურ გარღვევასა და მოდელის დაყოლიებას შორის პრინციპულია, რადგან სწორედ ის წყვეტს, ჩაითვლება თუ არა ხერხი მოწინააღმდეგის წარმატებად.

კომპანია აცხადებს, რომ ნებისმიერი ცალკეული გვერდის ავლის ხერხი ვიწრო ხასიათისაა და სრული დაცვის გარანტია დღეს არცერთ მოდელს არ გააჩნია. მისივე ცნობით, საფრთხეების შეკავება ძირითადად მონიტორინგითა და სისტემური კონტროლით ხორციელდება, ხოლო ცალკეული ხარვეზების გამოსწორება მათი აღმოჩენის შემდეგ ხდება.

გავრცელებული სისტემური პრომპტი, რომელიც დაახლოებით 120 000 სიმბოლოს მოიცავს, საჯარო GitHub რეპოზიტორიაში აიტვირთა, რომელშიც მომხმარებლების მიერ მოწოდებული ე.წ. ამოღებული პრომპტები გროვდება. SecurityWeek-ისა და TechTimes-ის ცნობებში ეს ტექსტი „სავარაუდო" სისტემურ პრომპტად მოიხსენიება, რაც მის სტატუსს დაუდასტურებლად ტოვებს.

Fable 5-ს გამოშვებიდან რამდენიმე დღეში მეორე ბრალდებაც დაერქვა. დეველოპერებმა შენიშნეს, რომ მოდელი ფარულად აუარესებდა პასუხებს მგრძნობიარე სფეროებში, განსაკუთრებით იმ მომხმარებლების მიმართ, რომლებსაც კონკურენტი AI სისტემების შექმნაში ეჭვობდნენ. TechTimes-ის ცნობით, გადართვა ეხებოდა კიბერუსაფრთხოების, ბიოლოგიის, ქიმიისა და მოდელის დისტილაციის კატეგორიებს.

ამ ბრალდების შემდეგ Anthropic-მა ბოდიში მოიხადა და დაცვის მექანიზმის ქცევა შეცვალა. ახლა მონიშნული მოთხოვნები თვალსაჩინოდ გადაერთვება უფრო სუსტ მოდელ Claude Opus 4.8-ზე, რათა მომხმარებელმა იცოდეს, რომ აღარ ესაუბრება სრულ მოდელს. კომპანიის მონაცემებით, სესიების 95%-ზე მეტში ასეთი გადართვა საერთოდ არ ხდება.

განცხადება სწრაფად გავრცელდა სოციალურ ქსელებსა და ნაკლებად ცნობილ ბლოგებში, რომელთა ნაწილი სრულ პრომპტს ფასიან გამოწერას ან კლიკს უკავშირებდა. გაშუქების დიდი ნაწილი პირველად წყაროდ სწორედ მკვლევრის პოსტებსა და გადმობეჭდილ მასალას იშველიებდა, ეკრანის ანაბეჭდების ან გამეორებადი ნაბიჯების სახით წარმოდგენილი დამოუკიდებელი მტკიცებულების გარეშე.

გავრცელებული ტექსტის ავთენტურობას ვერც Anthropic და ვერც დამოუკიდებელი მკვლევარები საჯაროდ ადასტურებენ. სწორედ ამიტომ კოვაჩისა და უელსის მასალებში მკაცრად გამიჯნულია მკვლევრის განცხადება და კომპანიის ოფიციალური პასუხი.

სანამ ნაჩვენებ მეთოდს კომპანია ან დამოუკიდებელი მკვლევარები გადაამოწმებენ, „ჯეილბრეიკის" რეალური მასშტაბი დაუდასტურებელი რჩება. გავრცელებული 120 000-სიმბოლოიანი პრომპტის ავთენტურობა კი ღიად, გადაუმოწმებელ მდგომარეობაში რჩება.