The AI Era Is Creating a Bug Hunting Arms Race — ინსაითი

Wired-ის უსაფრთხოების რეპორტიორმა, ლილი ჰეი ნიუმენმა, ორშაბათს გამოაქვეყნა ანგარიში პროგრამულ კოდში ხელოვნური ინტელექტის მიერ ხარვეზების ძიების ახალ ტენდენციაზე. ტექნოლოგიურმა კომპანია Anthropic-მა დახურული პროექტის, Project Glasswing-ის ფარგლებში აჩვენა, რომ მისმა ახალმა მოდელმა, Claude Mythos-მა, მხოლოდ ერთ თვეში 10 000-ზე მეტი მაღალი და კრიტიკული სიმძიმის უსაფრთხოების ხარვეზი გამოავლინა მსოფლიოს სისტემურ პროგრამებში.

ტესტირებისას მოდელმა 1 000-ზე მეტი ღია კოდის მქონე პროექტი შეამოწმა. Anthropic-ის პარტნიორმა ორგანიზაციამ, Cloudflare-მა საკუთარ სისტემებში 2 000 ხარვეზი დააფიქსირა, საიდანაც 400 მაღალი სიმძიმის იყო, თანაც მოდელის ცრუ განგაშის მაჩვენებელი ადამიან ტესტერებზე უკეთესი აღმოჩნდა. პარალელურად, კომპანია Mozilla-მ მოდელის გამოყენებით Firefox 150 ბრაუზერში 271 უსაფრთხოების პრობლემა აღმოაჩინა და გამოასწორა. შედარებისთვის, Anthropic-ის წინა მოდელმა, Claude Opus 4.6-მა, Firefox 148 ვერსიაში ათჯერ ნაკლები ხარვეზი იპოვა. გაერთიანებული სამეფოს ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტის განცხადებით, Claude Mythos გახდა პირველი მოდელი, რომელმაც სრულად გაიარა მათი კიბერთავდასხმის სიმულაციები. დამოუკიდებელმა ფირმებმა დაადასტურეს, რომ მოდელის მიერ აღმოჩენილი ბაგების 90.6% რეალური იყო.

ეს პროცესი ცვლის ციფრული თავდაცვის ინფრასტრუქტურას, რადგან ხელოვნური ინტელექტი ხარვეზებს იმაზე სწრაფად პოულობს, ვიდრე ადამიან ინჟინერებს მათი გადამოწმება, რეპორტინგი და შესაბამისი განახლებების კოდის გამოშვება შეუძლიათ, რაც დამატებით წნეხს აჩენს უსაფრთხოების ეკოსისტემაზე.