⚠️ აპრილში Anthropic-მა ახალ მოდელზე, Claude Mythos-ზე წვდომა მხოლოდ 50 კომპანიას მისცა უსაფრთხოების რისკების გამო. ბრიტანეთის AI უსაფრთხოების ინსტიტუტი ამტკიცებს, რომ მოდელს კორპორატიული ქსელების დამოუკიდებლად გატეხვა შეუძლია. მაგრამ როცა ამ განცხადებებს რეალურ ავტომატიზებულ სამუშაო პროცესს ვადარებ, სრულიად განსხვავებულ სურათს ვხედავ. ლაბორატორიულ ტესტებში Claude Mythos-მა 32-ნაბიჯიანი ოპერაცია „წარმატებით" შეასრულა უბრალოდ იმიტომ, რომ ქსელს დაცვის მექანიზმები და რეალური წინაღობები არ ჰქონდა. ჩემს ინფრასტრუქტურაში, სადაც აგენტები დამოუკიდებლად წერენ სცენარებს და მართავენ რთულ ვიზუალურ ფაილებს, რეალობა გაცილებით რუტინულია. როცა მოდელს გრძელვადიან, მრავალსაფეხურიან დავალებას ვაძლევ, ის საშიშ კიბერ-იარაღად კი არ იქცევა, არამედ რამდენიმე ნაბიჯის შემდეგ მეხსიერების ლიმიტს ეჯახება. რეალურ გარემოში ის სერვერის შეცდომებს ვერ ამუშავებს, არასწორ დირექტორიაში იჭედება და სამუშაოს გასაგრძელებლად ჩემს ჩარევას ითხოვს. ის, რასაც მკვლევრები სტერილურ, მეთვალყურეობის გარეშე დატოვებულ გარემოში აღწევენ, მოდელის რეალურ შესაძლებლობებს არ ასახავს. 🛠 შემქმნელები „საშიში ხელოვნური ინტელექტის" ნარატივს სპეციალურად აძლიერებენ, რადგან ეს დახურული ბეტა-ვერსიების საუკეთესო მარკეტინგია. ის, რასაც საჯაროდ „ზედმეტად ძლიერს" უწოდებენ, პროდაქშენში ხშირად უბრალოდ არასტაბილურია. ინდუსტრიის მთავარი ტრიუკი ის კი არ არის, რომ საფრთხისშემცველ სისტემებს ქმნის, არამედ ის, რომ სტერილურ სიმულაციებს მზა პროდუქტად ასაღებს. 👁