სპეციალურმა დამცავმა ფირმა Flock Safety-ს სათვალთვალო AI კამერები მწყო

გამოცემა Futurism-ის ინფორმაციით, კიბერუსაფრთხოების მკვლევარმა საკუთარი ავტომობილი სპეციალური ოპტიკური პატერნით შეფუთა, რომელიც ხელოვნური ინტელექტის მქონე Flock Safety-ს კამერებს მანქანის იდენტიფიცირებას ურთულებს. სისტემა, რომელსაც აშშ-ის 4000-ზე მეტი პოლიციის დეპარტამენტი იყენებს, მანქანის სანომრე ნიშნებისა და მოდელის ამოცნობის ნაცვლად, შეცდომებს აგენერირებს და სათვალთვალო ქსელს აბნევს. ეს ფაქტი სისტემურ ხარვეზებზე მიუთითებს.

Flock Safety-ს სათვალთვალო ქსელი ყოველდღიურად მილიარდობით სატრანსპორტო საშუალების გადაადგილებას აფიქსირებს. თუმცა, სპეციალურად დაპროექტებული გეომეტრიული ფირფიტები კომპიუტერული ხედვის ალგორითმებს აბნევს, რის გამოც სისტემა ავტომობილს საერთოდ ვერ აღრიცხავს ან არასწორ მონაცემებს ინახავს. ეს ექსპერიმენტი სათვალთვალო ტექნოლოგიების მოწყვლადობას მკაფიოდ ავლენს და ახალ დისკუსიებს ბადებს.

ტექნოლოგიური უსაფრთხოების ექსპერტმა ინტერვიუში განაცხადა: „ალგორითმული თვალთვალის სისტემები მოწყვლადია ოპტიკური ილუზიების მიმართ და მათი დაბნევა მარტივი პატერნებითაც შესაძლებელია“. მკვლევრის თქმით, ეს შემთხვევა აჩვენებს, რომ მოქალაქეებს საკუთარი კონფიდენციალურობის დასაცავად ახალი მეთოდების გამოყენება შეუძლია, რაც ციფრულ თავდაცვას აძლიერებს და პირადი სივრცის დაცვას უზრუნველყოფს.

სამოქალაქო უფლებადამცველების ცნობით, Flock-ის კამერები 50-ზე მეტ შტატში უკონტროლო მონაცემთა ბაზებს ქმნის, რაც პირადი ცხოვრების ხელშეუხებლობას საფრთხეს უქმნის. ახალი დამცავი ფირის გამოჩენამ მძღოლებში დიდი ინტერესი გამოიწვია და მსგავსი პროდუქტების მოთხოვნა 70 პროცენტით გაზარდა, რაც ბაზარზე ახალ ნიშას აყალიბებს და მოთხოვნას ზრდის.

დარგობრივი ექსპერტების შეფასებით, მანქანური სწავლების მოდელები დამოკიდებულია სტანდარტულ ვიზუალურ პარამეტრებზე. როდესაც ავტომობილის ზედაპირზე კონტრასტული ხაზები და არასტანდარტული ფორმები ჩნდება, ნეირონული ქსელი ობიექტის კლასიფიკაციას ვეღარ ახერხებს და შეცდომას უშვებს, რაც თვალთვალის სისტემას ანეიტრალებს და ეფექტურობას ართმევს. ეს ხარვეზი ხელოვნური ინტელექტის ბუნებრივ შეზღუდვას წარმოადგენს.

იურიდიული კომპანიების მონაცემებით, მსგავსი ფირის გამოყენება ბევრ იურისდიქციაში კანონდარღვევად არ ითვლება, რადგან სანომრე ნიშანი ადამიანის თვალისთვის სრულად ხილვადი რჩება. ეს გარემოება სამართალდამცავ ორგანოებსა და ტექნოლოგიურ კომპანიებს შორის ახალ სამართლებრივ დავებს აჩენს და რეგულაციების გადახედვას მოითხოვს, რაც პროცესს აფერხებს.

კიბერუსაფრთხოების ლაბორატორიები აღნიშნავს, რომ კომპიუტერული ხედვის ალგორითმების მოტყუება ადვერსარიალური შეტევების კლასიკური ფორმაა. გასული 2 წლის განმავლობაში მსგავსი ტესტების რაოდენობა 35 პროცენტით გაიზარდა, რაც ტექნოლოგიურ სექტორს თავდაცვის მექანიზმების გადახედვას აიძულებს და დაცვის ახალ ხერხებს მოითხოვს, რათა სიზუსტე შენარჩუნდეს.

ანალიტიკოსები წერს, რომ სათვალთვალო კამერების მწარმოებლები იძულებული გახდება პროგრამული განახლებები გამოუშვას და ალგორითმები ახალი ტიპის ოპტიკური პატერნების ამოსაცნობად გადაამზადოს, რაც დამატებით ფინანსურ რესურსებს მოითხოვს და კომპანიების ბიუჯეტს ტვირთავს, თუმცა შედეგი გარანტირებული არ არის.

ტექნოლოგიური ჟურნალები განმარტავს, რომ კონფიდენციალურობის დამცველი აქსესუარების ბაზარი სწრაფად იზრდება. მომხმარებლები სულ უფრო ხშირად ეძებს საშუალებებს, რათა ციფრული მონიტორინგისგან თავი დაიცვას და პირადი სივრცე შეინარჩუნოს, რაც ინდივიდუალურ თავისუფლებას განამტკიცებს და ახალ ბაზარს ქმნის.

საზოგადოებრივი ორგანიზაციები უწოდებს ამ პრეცედენტს ციფრული წინააღმდეგობის სიმბოლოს, რომელიც მოქალაქეთა უფლებების დაცვის აუცილებლობაზე მიუთითებს და დემოკრატიულ პრინციპებს ეფუძნება. საზოგადოება მონიტორინგის გამჭვირვალობას ითხოვს.

სამართალდამცავი უწყებები ადასტურებს, რომ სათვალთვალო ქსელების ეფექტურობა 15 პროცენტით შემცირდა იმ რეგიონებში, სადაც მძღოლებმა დამცავი ელემენტების გამოყენება დაიწყო და კონტროლი შესუსტდა, რაც უსაფრთხოების რისკებს აჩენს.

ტექნოლოგიური პორტალები მიუთითებს, რომ Flock Safety-ს ინჟინრები უკვე მუშაობს ახალ ფილტრებზე, რათა მსგავსი ოპტიკური ხარვეზები აღმოფხვრას და სისტემის სიზუსტე აღადგინოს, რაც დამატებით დროს მოითხოვს და რესურსებს საჭიროებს.

სპეციალისტები დასძენს, რომ თვალთვალის ტექნოლოგიებსა და კონფიდენციალურობის დამცველებს შორის ბრძოლა მომდევნო წლებში კიდევ უფრო გამწვავდება და ახალ ინოვაციებს დაბადებს ორივე მხარეს.

ექსპერტები ასკვნის, რომ პირადი ცხოვრების ხელშეუხებლობა დემოკრატიული საზოგადოების მთავარ ღირებულებად რჩება და ტექნოლოგიურმა პროგრესმა ეს პრინციპი არ უნდა დაარღვიოს.