Insights

🛡️ Apple-ისა და Google-ის მშობელთა კონტროლმა მოზარდები სიშიშვლის გენერირების 135 AI აპისგან ვერ დაიცვა

ციფრული უფლებების დამცველი ორგანიზაციის, Tech Transparency Project-ის (TTP) მიერ 2026 წლის 19 ოქტომბერს გამოქვეყნებულმა კვლევამ გამოავლინა, რომ Apple-ისა და Google-ის მშობელთა კონტროლის მექანიზმები მოზარდებს მავნე AI პროგრამებისგან ვერ იცავს. მკვლევრებმა 13 წლის მოზარდის სახელით რეგისტრირებული სატესტო ანგარიშებით 135 ისეთი აპლიკაცია ჩამოტვირთეს, რომლებიც ფოტოებზე ადამიანების გაშიშვლებას ან სახის შეცვლას ახდენს. პრობლემის სიმწვავე ნათლად გამოჩნდა ჯერ კიდევ 2025 წლის დეკემბერში, როდესაც პენსილვანიის შტატში მცხოვრებმა მორგან დორფმანმა შეიტყო, რომ თანაკლასელმა მისი ქალიშვილისა და კიდევ 5 მოსწავლე გოგონას ფოტოები ყალბი ინტიმური ვიდეოების შესაქმნელად გამოიყენა. სკოლის მოსწავლემ ამისთვის ხელოვნურ ინტელექტზე დაფუძნებული აპლიკაცია Movely აამოქმედა. „ყველა გოგონა ძალიან შეშინებული და დაბნეული იყო იმის გამო, თუ რა უნდა გაეკეთებინათ შემდეგ,“ - განაცხადა მორგან დორფმანმა გამოცემა The Guardian-თან საუბრისას. მისი თქმით, მანამდე ეგონა, რომ მსგავსი ყალბი მასალები მხოლოდ ცნობილი ვარსკვლავების წინააღმდეგ იქმნებოდა და ჩვეულებრივი მოსწავლეების ფოტოების ასე მარტივად დამუშავება წარმოუდგენლად მიაჩნდა. დორფმანმა, რომელიც 4 შვილის დედაა, რამდენიმე კვირა დაუთმო პროგრამის მუშაობის შესწავლას, რათა სხვა მშობლებისთვის საგანმანათლებლო მასალა მოემზადებინა. მან აღნიშნა, რომ აპლიკაცია Movely-ის უფასო ვერსიაც კი მომხმარებლებს პირდაპირ სთავაზობდა გამომწვევ შაბლონებს, ხოლო ფასიანი პაკეტი სრულად პორნოგრაფიულ სცენებს ხსნიდა. საკითხის სისტემური შესწავლის მიზნით TTP-ის სპეციალისტებმა შექმნეს 4 სატესტო პროფილი, რომელთაგან 2 ეკუთვნოდა Apple-ის, ხოლო 2 Google-ის ეკოსისტემას. ექსპერიმენტის დროს ანგარიშების ნახევარზე გააქტიურებული იყო მკაცრი მშობელთა კონტროლი, რომელიც 13 წლის მომხმარებელს მხოლოდ ასაკის შესაბამისი პროგრამების გადმოწერის უფლებას აძლევდა. შემოწმებამ დაადასტურა, რომ ტექნოლოგიური გიგანტები აპლიკაციების ასაკობრივი კატეგორიის განსაზღვრისას ძირითადად თავად დეველოპერების კეთილსინდისიერებას ეყრდნობიან. შედეგად, სახის ჩანაცვლების 1 აპლიკაცია, რომელიც აშკარა პორნოგრაფიული სურათით რეკლამირდებოდა, მაღაზიაში 4 წლიდან ზემოთ ბავშვებისთვის დასაშვებ პროდუქტად იყო მონიშნული. კიდევ ერთი პროგრამა, სახელწოდებით Image to Video Maker-Vidou AI, ოფიციალურად 9 წლიდან მომხმარებლებისთვის იყო განკუთვნილი, თუმცა გახსნისთანავე ეკრანზე შიშველ გამოსახულებას აჩვენებდა. მკვლევრებმა ასევე შეძლეს 13 წლის მოზარდის ანგარიშიდან ფასიანი გამოწერის შეძენა ისე, რომ მშობლის პროფილზე არანაირი გამაფრთხილებელი შეტყობინება არ მისულა. ასაკობრივი შეზღუდვის მექანიზმმა ვერც მაშინ იმუშავა, როდესაც სატესტო ანგარიშმა ზრდასრულთათვის განკუთვნილი აპლიკაციის ჩამოტვირთვა სცადა. Apple-ის მაღაზიამ ეკრანზე გამოიტანა შეკითხვა, იყო თუ არა მომხმარებელი 17 წლის ან უფროსი, და თანხმობის ღილაკზე დაჭერის შემდეგ პროგრამა დაუბრკოლებლად ჩატვირთა, მიუხედავად იმისა, რომ პროფილში ასაკად 13 წელი ეწერა. მშობელთა კონტროლით აღჭურვილმა Apple-ის ანგარიშმა თავისუფლად მოძებნა და ჩამოტვირთა სიშიშვლის გენერირების 24 აპლიკაცია, რადგან თითოეული მათგანი მოზარდებისთვის უსაფრთხოდ იყო კლასიფიცირებული. ანალოგიური პარამეტრების მქონე Google-ის ანგარიშზე კი მკვლევრებმა 51 ასეთი პროგრამის დაყენება მოახერხეს. კვლევის მიმდინარეობისას Apple-მა პლატფორმიდან წაშალა 25 საეჭვო აპლიკაცია, ხოლო Google-მა 6 პროგრამა დაბლოკა, თუმცა უკვე ჩამოტვირთული ვერსიები ტელეფონებში კვლავ შეუფერხებლად მუშაობდა. დორფმანმაც დაადასტურა, რომ მაღაზიიდან Movely-ის გაქრობის შემდეგაც კი პროგრამა მის სმარტფონში აქტიური დარჩა და საბანკო ბარათიდან სააბონენტო გადასახადის ჩამოჭრას განაგრძობდა. Google-ის პრესსპიკერმა დენ ჯექსონმა განმარტა, რომ კომპანია დარღვევების აღმოჩენისთანავე ბლოკავს მავნე პროგრამებს და ზღუდავს შესაბამის საძიებო სიტყვებს. თავის მხრივ, Apple-ის წარმომადგენელმა ადამ დემამ აღნიშნა, რომ ზოგიერთი დეველოპერი შემოწმების გავლის შემდეგ მალულად ცვლის აპლიკაციის ფუნქციონალს, რის გამოც კომპანიამ მოდერაციის წესები გაამკაცრა. სამართლებრივი რეაგირება რთული აღმოჩნდა სკოლის დონეზეც, სადაც დირექციამ თავდაპირველად ჩათვალა, რომ მოსწავლეს უკანონო არაფერი ჩაუდენია. თუმცა რამდენიმე დღის შემდეგ რადნორის პოლიციამ მოზარდს ოფიციალურად წაუყენა ბრალი შევიწროების მუხლით, რადგან შეერთებული შტატების უმეტეს შტატში მსგავსი AI მასალის ფლობა სისხლის სამართლის დანაშაულია. ანგარიშის ავტორები ასკვნიან, რომ მობილური მარკეტპლეისების დღევანდელი არქიტექტურა ვერ უმკლავდება გენერაციული ხელსაწყოების სწრაფ გავრცელებას. სანამ Apple-ი და Google-ი ასაკობრივ შეფასებას თავად აპლიკაციების შემქმნელებს ანდობენ და უკვე ჩაწერილ პროგრამებს დისტანციურად არ თიშავენ, მშობელთა კონტროლის ფუნქცია მხოლოდ ფორმალურ დაცვად რჩება.