ღია AI მოდელებიდან უსაფრთხოების ფილტრების მოხსნა ექსტრემისტული მიზნები

ხელოვნური ინტელექტის ღია მოდელების უსაფრთხოების საკითხი კვლავ საერთაშორისო ყურადღების ცენტრში ექცევა. Alibaba-ს მიერ 14 აგვისტოს წარდგენილი Qwen 3.8-27B საკმარისად კომპაქტური აღმოჩნდა პერსონალურ ლეპტოპზე სამუშაოდ, რამაც სისტემის გავრცელება დააჩქარა. თუმცა ოფიციალური პრეზენტაციიდან სულ რაღაც 24 საათში დამოუკიდებელმა მომხმარებლებმა ქსელში ატვირთეს ვერსიები, სადაც კორპორატიული შეზღუდვები და ეთიკური ფილტრები სრულად იყო გაუქმებული.

მოვლენები კიდევ უფრო სახიფათო მიმართულებით განვითარდა, როდესაც გამოქვეყნებიდან 3 დღის თავზე რადიკალმა ექსტრემისტმა აღნიშნული მოდიფიცირებული კოდი საკუთარი მიზნებისთვის გამოიყენა. მან შექმნა სპეციალური ჩატბოტი და 1 კვირაში აუდიტორიას პროგრამაზე წვდომას 14.88 დოლარად სთავაზობდა. ეს ტარიფი სიმბოლურ მინიშნებას წარმოადგენდა რადიკალურ ჯგუფებში გავრცელებულ რიცხვებზე, რაც პროგრამის შექმნის მიზანს კიდევ უფრო თვალსაჩინოს ხდიდა.

გამოცემა Wired-ის მიერ ჩატარებულმა დეტალურმა გამოძიებამ დაადასტურა, რომ ღია კოდის ბაზაზე შექმნილი სისტემები მინიმალურ დაცვას ფლობს. თუ ღია მოდელის წონები მომხმარებლის ხელში ხვდება, მისი ხელახალი დატრენინგება და დამცავი ბარიერების ჩამოშლა მცირე რესურსებით ხდება შესაძლებელი. ტექნოლოგიური ექსპერტების შეფასებით, თანამედროვე ხელსაწყოები რადიკალურ პირებს აძლევს საშუალებას, მოდელი საკუთარ ინტერესებს რამდენიმე საათში მოარგონ.

უსაფრთხოების სფეროს ანალიტიკოსმა გამოცემასთან საუბრისას აღნიშნა, რომ თანამედროვე ვითარებაში ტრადიციული ცენზურა უძლურია. „როდესაც მოდელის წონები თავისუფლად ვრცელდება, ნებისმიერი წინასწარ დაყენებული დამცავი ბარიერი მხოლოდ დროებით ილუზიად იქცევა“, - განაცხადა ექსპერტმა. მისი განმარტებით, დეველოპერებს შეუძლიათ რამდენიმე ბრძანებით გააუქმონ ის წესები, რომელთა შემუშავებაზე კვლევითმა ლაბორატორიებმა თვეები დახარჯეს.

2026 წლის მონაცემებით, ღია წონების მქონე მოდელები პროგრამისტებს ფართო თავისუფლებას ანიჭებს, თუმცა ამავდროულად რისკების გაკონტროლების მექანიზმებს ასუსტებს. ღია არქიტექტურა კომპანიებს საშუალებას აძლევს, საკუთარი ინფრასტრუქტურა გარე პროვაიდერებისგან დამოუკიდებლად ააგონ. ამასთანავე, რეგულატორებს არ გააჩნიათ ბერკეტი, რათა აკონტროლონ, თუ რა ტიპის მონაცემებზე ხდება ალგორითმების შემდგომი გადამზადება ადგილობრივ სერვერებზე.

მკვლევრები ხაზს უსვამენ, რომ პრობლემა მხოლოდ ერთ კონკრეტულ მოდელში არ მდგომარეობს. ღია სისტემების ეკოსისტემა სწრაფად იზრდება და ათასობით მსგავსი პარამეტრის მქონე ალგორითმი ყოველდღიურად ქვეყნდება. თუ ადრე მოდელის გადაკეთება მაღალი დონის გამოთვლით სიმძლავრეებს მოითხოვდა, დღეს 27 მილიარდი პარამეტრის მქონე მოდიფიკაცია ჩვეულებრივ სამომხმარებლო ვიდეობარათზეც უპრობლემოდ ეშვება.

ექსპერტთა ჯგუფი მიუთითებს, რომ ციფრული საფრთხეების პრევენცია ახალი სამართლებრივი მიდგომების დანერგვას საჭიროებს. ტექნოლოგიური კომპანიები ცდილობენ შექმნან ისეთი დამცავი ფენები, რომლებიც მოდელის სიღრმისეულ შრეებში იქნება ინტეგრირებული. თუმცა პრაქტიკა გვიჩვენებს, რომ ღია კოდის მოყვარულები ამ შეზღუდვების გვერდის ავლის გზებს უმოკლეს ვადაში პოულობენ.

ანალიტიკური ცენტრების ცნობით, რადიკალური დაჯგუფებები ხელოვნური ინტელექტის შესაძლებლობებს პროპაგანდის მასობრივი ტირაჟირებისთვის აქტიურად იყენებენ. ავტომატიზებული ტექსტების გენერაცია მათ საშუალებას აძლევს, მინიმალური დანახარჯებით აწარმოონ დეზინფორმაციული კამპანიები. ეს ვითარება აჩვენებს, რომ მომავალში კიბერუსაფრთხოების მთავარი გამოწვევა სწორედ ლოკალურად გაშვებული სისტემების გაკონტროლება იქნება.

დასკვნის სახით სპეციალისტები აღნიშნავენ, რომ ხელოვნური ინტელექტის რეგულირება გლობალურ კოორდინაციას მოითხოვს. ცალკეული ქვეყნების მიერ მიღებული კანონები ვერ შეაჩერებს ღია წონების ციფრულ გავრცელებას საზღვრებს მიღმა. ინდუსტრიას მოუწევს მოძებნოს ბალანსი ინოვაციების ხელშეწყობასა და საზოგადოებრივი უსაფრთხოების დაცვას შორის, რათა ტექნოლოგიური პროგრესი დესტრუქციულ ძალად არ გარდაიქმნას.

ტექნოლოგიური გიგანტები და სახელმწიფო უწყებები უახლოეს თვეებში უსაფრთხოების ახალი სტანდარტების შემუშავებას გეგმავენ. დისკუსიები შეეხება როგორც მოდელების საწყის არქიტექტურას, ისე ღია წვდომის ლიცენზიების სამართლებრივ პირობებს. ინდუსტრიის ლიდერები აცნობიერებენ, რომ უსაფრთხოების მყარი გარანტიების გარეშე ღია სისტემების მიმართ საზოგადოებრივი ნდობა საგრძნობლად შემცირდება.

საერთაშორისო დამკვირვებლის შეფასებით, საკითხის მოგვარება მოითხოვს თანამშრომლობას მკვლევრებსა და პლატფორმებს შორის. გამჭვირვალე წესების გარეშე რისკების შემცირება შეუძლებელი იქნება, რადგან დეცენტრალიზებული ქსელები ინფორმაციის მყისიერ გავრცელებას განაპირობებს.