⚠️ ევროპული ორგანიზაციის კვლევით Hugging Face-ზე პორნოგრაფიული AI ფოტო

ღია ხელოვნური ინტელექტის პლატფორმა Hugging Face-ი არასანქცირებული სექსუალური დიპფეიკების გენერირების პრობლემის წინაშე დადგა. პლატფორმის პოპულარულ ინსტრუმენტებში უსაფრთხოების მექანიზმების ნაკლებობა ბოროტად გამოყენების რისკებს მკვეთრად ზრდის, რაც საზოგადოებრივ შეშფოთებას იწვევს. ექსპერტები აღნიშნავს, რომ ღია კოდის მქონე მოდელები სათანადო მონიტორინგის გარეშე ფუნქციონირებს და ნებისმიერ მომხმარებელს აძლევს წვდომას.

ევროპული არასამთავრობო ორგანიზაციის, AI Forensics-ის ინფორმაციით, პლატფორმაზე განთავსებული ინსტრუმენტები ქალების ფოტოების უნებართვო ტრანსფორმაციას ახორციელებს. მკვლევარებმა დაადგინა, რომ მომხმარებლები ღია მოდელებს პორნოგრაფიული კონტენტის შესაქმნელად აქტიურად იყენებს, რაც პლატფორმის წესებს პირდაპირ ეწინააღმდეგება და ადამიანის უფლებებს არღვევს ციფრულ სივრცეში.

გამოცემა Wired-ის ცნობით, მკვლევარებმა Hugging Face-ის 9 წამყვანი ფოტო-რედაქტორი გამოსცადეს, საიდანაც 7-მა მოდელმა ქალის ჩაცმული ფოტოები მარტივად შეცვალა. მოდელებმა უსაფრთხოების ყოველგვარი შეზღუდვის გარეშე დააგენერირა უნებართვო კადრები, რაც ტექნიკური ფილტრების სრულ უეფექტობაზე მიუთითებს და სისტემურ ხარვეზებს ააშკარავებს პლატფორმის უსაფრთხოების არქიტექტურაში.

ორგანიზაციის წამყვანმა მკვლევარმა, პოლ ბუშომ განაცხადა: „პლატფორმის ინსტრუმენტები რეალურად გამოიყენება უნებართვო ინტიმური გამოსახულებების შესაქმნელად“. მან ხაზი გაუსვა იმას, რომ ეს რეალური საფრთხეა და არა მხოლოდ თეორიული დაშვება, რადგან ათასობით მომხმარებელი ამ ინსტრუმენტებს ყოველდღიურად იყენებს მავნე მიზნებისთვის და სხვისი რეპუტაციის დაზიანებისთვის.

სპეციალურმა ექსპერიმენტულმა სისტემამ 1 კვირის განვალობაში 1 000-ზე მეტი მოთხოვნა დააფიქსირა, საიდანაც 73% სექსუალური ხასიათის აღმოჩნდა. კვლევის ფარგლებში შექმნილმა სატესტო გარემომ მომხმარებელთა რეალური ქცევის მოდელირება უზრუნველყო და დაადასტურა ბოროტად გამოყენების მასშტაბები, რაც საგანგაშო მაჩვენებელს წარმოადგენს ტექნოლოგიურ სექტორში.

მონაცემებით, სექსუალური მოთხოვნების 83% ტანსაცმლის მოცილებას ისახავდა მიზნად, ხოლო 95%-ში სამიზნეს ქალები წარმოადგენდა. ეს ციფრები აჩვენებს, რომ ტექნოლოგია ძირითადად გენდერული ნიშნით ექსპლუატაციისთვის გამოიყენება და ქალთა ციფრულ უსაფრთხოებას სერიოზულ საფრთხეს უქმნის თანამედროვე ონლაინ სივრცეში, სადაც პრევენციული მექანიზმები არ არსებობს.

ანგარიშის თანახმად, მოთხოვნების 6,7% არასრულწლოვანთა გამოსახულებების დამუშავებას ეხებოდა, რაც საერთაშორისო კანონმდებლობის სერიოზულ დარღვევას წარმოადგენს. ასეთი კონტენტის გავრცელება მკაცრ სისხლისსამართლებრივ პასუხისმგებლობას ითვალისწინებს და საერთაშორისო სამართალდამცავი ორგანოების მხრიდან სასწრაფო რეაგირებას მოითხოვს კანონის სრული სიმკაცრით.

Hugging Face-ის წარმომადგენლებმა პოლიტიკის დარღვევის შესახებ დასმულ 5 კითხვას პასუხი არ გასცა. კომპანიის დუმილმა უფლებადამცველთა და ტექნოლოგიური ექსპერტების დამატებითი კრიტიკა გამოიწვია, რადგან პლატფორმა პასუხისმგებლობას აშკარად არიდებს თავს და რეალური ზომების მიღებას აყოვნებს, რაც პრობლემის გამწვავებას უწყობს ხელს.

ექსპერტების შეფასებით, 2026 წელს აშშ-ისა და ევროკავშირის მარეგულირებლები მსგავსი აპლიკაციების აკრძალვას გეგმავს. საკანონმდებლო ინიციატივები ღია კოდის მქონე მოდელების მწარმოებლებისთვის მკაცრი ფილტრების დაწესებას ითვალისწინებს, რათა უკანონო კონტენტის გენერირება აღიკვეთოს და მომხმარებლები დაცული იყოს ციფრული საფრთხეებისგან.

ტექნოლოგიური სექტორის ანალიტიკოსები მიუთითებს, რომ ღია პლატფორმებზე უსაფრთხოების ფილტრების არარსებობა რისკებს ზრდის. მრავალმილიარდიანი შეფასების მქონე კომპანიას კონტენტის მონიტორინგის ეფექტური სისტემა ჯერ არ შეუმუშავებია, რაც ღია ეკოსისტემების მთავარ სუსტ წერტილად რჩება დღევანდელ რეალობაში და დამატებით რეგულაციებს მოითხოვს.

მკვლევარებმა დაადასტურა, რომ რამდენიმე პოპულარული გვერდი ჟურნალისტების მიმართვის შემდეგ პლატფორმიდან წაიშალა. თუმცა მსგავსი ინსტრუმენტების ხელახალი განთავსება მარტივად ხორციელდება, რადგან პლატფორმას ავტომატური პრევენციის მექანიზმები არ გააჩნია და მომხმარებლებს ახალი მოდელების ატვირთვა შეუძლია ყოველგვარი წინასწარი შემოწმების გარეშე.

მომხმარებელთა უსაფრთხოების ჯგუფები აცხადებს, რომ AI მოდელების მწარმოებლებს მკაცრი რეგულაციები უნდა დაუწესდეს, რათა ციფრული ძალადობის შემთხვევები მინიმუმამდე შემცირდეს. უფლებადამცველები მიიჩნევს, რომ პლატფორმებმა საკუთარ რესურსებზე განთავსებულ მოდელებზე პასუხისმგებლობა სრულად უნდა აიღოს და უსაფრთხოების სტანდარტები დანერგოს.