New Tools Strip AI Guardrails In Minutes, Allowing — ინსაითი

მედიასაშუალება Financial Times-ისა და ხელოვნური ინტელექტის უსაფრთხოების ორგანიზაცია Alice-ის ერთობლივი ტესტირებით, Meta-სა და Google-ის ღია კოდის მოდელებიდან დამცავი მექანიზმების მოცილება რამდენიმე წუთშია შესაძლებელი. ჟურნალისტებმა პლატფორმა GitHub-ზე ხელმისაწვდომი უფასო პროგრამა Heretic-ის გამოყენებით Meta-ს Llama 3.3 მოდელს უსაფრთხოების ფილტრები 10 წუთზე ნაკლებ დროში მოხსნეს.

პროგრამა Heretic-ის შემქმნელმა, ფილიპ ემანუელ ვაიდმანმა, განაცხადა, რომ ხელსაწყოს გამოშვების შემდეგ მომხმარებლებმა 3 500-ზე მეტი დეცენზურირებული მოდელი შექმნეს, რომლებიც ჯამში 13 მილიონჯერ ჩამოტვირთეს. ვაიდმანის თქმით, მან Google-ის Gemma 4 მოდელის დამცავი ბარიერები მისი გამოქვეყნებიდან 90 წუთში მოხსნა. აღნიშნული მეთოდი, რომელიც მიმართულებითი აბლაციის (abliteration) სახელითაა ცნობილი, პირდაპირ ცვლის ნეირონული ქსელის შიდა პარამეტრებს და მოდელს აიძულებს გასცეს პასუხები ბიოლოგიურ იარაღზე, მავნე კოდსა თუ სხვა აკრძალულ თემებზე. აღნიშნული ტექნიკა არ მუშაობს დახურულ მოდელებზე, როგორიცაა OpenAI-ის ChatGPT ან Anthropic-ის Claude, რადგან მათი კოდი გარე პირებისთვის მიუწვდომელია.

ჩიკაგოს ბუთის ბიზნესსკოლის გამოყენებითი ხელოვნური ინტელექტის ასისტენტ-პროფესორმა, კავინ ეთაიარაჟმა, აღნიშნა, რომ მსგავსი ხელსაწყოების გავრცელება ართულებს მთავრობებისა და ტექნოლოგიური კომპანიების მცდელობებს, დაარეგულირონ ხელოვნური ინტელექტის უსაფრთხოება განვითარების ეტაპზე. ორგანიზაცია Alice-ის აღმასრულებელმა დირექტორმა, ნოამ შვარცმა, განაცხადა, რომ მოდიფიცირებული სისტემების გავრცელება საზოგადოებისგან ახალი ტიპის საფრთხეებისთვის მომზადებას მოითხოვს.