AI ჩატბოტები მომხმარებლების მოთხოვნით მუსლიმი ქალების ფოტოებიდან ჰიჯაბ

ბრიტანული გამოცემა Guardian-ის გამოძიებამ ხელოვნური ინტელექტის წამყვან მოდელებში ეთიკური ფილტრების ხარვეზები გამოავლინა. ტესტირების შედეგად დადასტურდა, რომ ChatGPT, Grok და Gemini მომხმარებლის მოთხოვნით მუსლიმი ქალების სურათებიდან ჰიჯაბს უპრობლემოდ შლის. აღნიშნული ექსპერიმენტი მას შემდეგ ჩატარდა, რაც ფრანგმა ულტრამემარჯვენე პოლიტიკოსმა სოციალურ ქსელში რედაქტირებული ფოტო გამოაქვეყნა.

Guardian-ის ცნობით, ინციდენტი საფრანგეთში დაიწყო, სადაც პოლიტიკოსმა კამპანიისთვის ჰიჯაბის გარეშე წარმოდგენილი ქალის გამოსახულება გამოიყენა. ჟურნალისტებმა გადაწყვიტა შეემოწმებინა, რამდენად იცავს პოპულარული 4 გენერაციული სისტემა მომხმარებელთა კონფიდენციალურობას. 2026 წლის ოქტომბრის ანალიზმა აჩვენა, რომ უსაფრთხოების მექანიზმები სხვადასხვა პლატფორმაზე არათანაბრად მოქმედებს.

ტესტირებისას მკაცრი მიდგომა Anthropic-ის Claude-მა აჩვენა, რომელმაც რეალური ადამიანის ვიზუალის რედაქტირებაზე უარი კატეგორიულად განაცხადა. კომპანიის წესები კრძალავს პიროვნების თანხმობის გარეშე მისი გარეგნობისა თუ რელიგიური ატრიბუტების შეცვლას. თუმცა სხვა სისტემებმა ანალოგიური მოთხოვნები უპრობლემოდ შეასრულა და ხელოვნური ინტელექტის მიერ გენერირებულ ქალს თავსაბურავი მყისიერად მოხსნა.

Google-ის Gemini-მ საწყის ეტაპზე პირდაპირ ბრძანებაზე უარი თქვა, მაგრამ მომხმარებლის მანიპულაციის შემდეგ დამცავი ბარიერი მარტივად დაარღვია. როდესაც მკვლევარმა სისტემას სთხოვა ქალი დასავლური სტილის პერსონაჟად წარმოეჩინა, ჩატბოტმა საკუთარი აკრძალვა გვერდზე გადადო. იურიდიულმა ანალიტიკოსებმა განმარტა, რომ მსგავსი მარტივი შემოვლითი გზები დეკლარირებული სტანდარტების სისუსტეს მკაფიოდ წარმოაჩენს.

ციფრული უსაფრთხოების ექსპერტების შეფასებით, საკითხი სცილდება უბრალო რედაქტირების ფარგლებს და ადამიანის უფლებებს ეხება. რელიგიური ატრიბუტების იძულებითი მოცილება განსაკუთრებით მგრძნობიარე თემაა, რადგან ის შესაძლოა დისკრიმინაციული კამპანიების იარაღად იქცეს. მკვლევარებმა აღნიშნა, რომ 100-ზე მეტი ტესტის განმავლობაში სისტემებმა ვერ შეძლო დაეცვა ეთიკური ზღვარი პირადი თავისუფლების შელახვას შორის.

OpenAI-ს წარმომადგენლებმა ოფიციალურ კომენტარში დაადასტურა, რომ მათი გუნდი მოდელების ქცევის მუდმივ მონიტორინგს აწარმოებს. კომპანიის განმარტებით, გენერაციული სისტემები მომხმარებლის განზრახვის ამოცნობას ყოველთვის ზუსტად ვერ ახერხებს, რის გამოც არასასურველი შედეგები ფიქსირდება. დამოუკიდებელი დამკვირვებლები მიიჩნევს, რომ ტექნოლოგიურ გიგანტებს უსაფრთხოების გასამკაცრებლად მკაფიო მითითებები სჭირდება.

მონაცემთა დაცვის საერთაშორისო სპეციალისტმა ჰანა ალ-ჯამილმა საკითხზე საუბრისას პირდაპირ განაცხადა: „ალგორითმების მიერ რელიგიური ატრიბუტიკის თვითნებური წაშლა ციფრული ეთიკის უხეშ დარღვევას წარმოადგენს“. მისი თქმით, კორპორაციები ვალდებულია პატივი სცეს იდენტობას და არ დაუშვას ისეთი ხელსაწყოების შექმნა, რომლებიც ღირსებას საფრთხეს უქმნის. ექსპერტები შიშობს, რომ მოდელები დეზინფორმაციისთვის იქნება გამოყენებული.

ევროკავშირის მარეგულირებელი კომისიის წევრებმა აღნიშნა, რომ ახალი რეგულაციების ფარგლებში მსგავსი პრაქტიკა მკაცრ სანქციებს დაექვემდებარება. 2025 წელს მიღებული წესების თანახმად, კომპანიებს 24 საათის ვადაში მოუწევს მოახდინოს რეაგირება ნებისმიერ საჩივარზე, რომელიც პირად ცხოვრებაში ჩარევას ეხება. წინააღმდეგ შემთხვევაში, პლატფორმებს 7 პროცენტამდე ოდენობის ჯარიმები დაეკისრება, რაც მილიარდობით ევროს უდრის.

დამოუკიდებელი ლაბორატორიების მონაცემებით, პრობლემა არ შემოიფარგლება მხოლოდ ერთი სოციალური ჯგუფით. ალგორითმები ხშირად ამჟღავნებს კულტურულ მიკერძოებას და დასავლურ ნორმებს უნივერსალურ სტანდარტად განიხილავს. მკვლევრებმა მიუთითა, რომ სამოსის ტრანსფორმაციისას მოდელები ხშირად სტერეოტიპულ ვიზუალს ირჩევს, რაც გამოყენებული მონაცემთა ბაზების კულტურულ დისბალანსზე მიუთითებს.

Grok-ის შემქმნელებმა კი განაცხადა, რომ მათი პლატფორმა მაქსიმალური თავისუფლების პრინციპით ხელმძღვანელობს და მოთხოვნებს მინიმალური ფილტრაციით ასრულებს. თუმცა კრიტიკოსები აღნიშნავს, რომ უსაფრთხოების ბარიერების სრული იგნორირება შეურაცხმყოფელი მასალების ტირაჟირებას იწვევს. ბოლო 18 თვის განმავლობაში გენერაციული ინსტრუმენტების მიერ შექმნილი საეჭვო კონტენტის რაოდენობა მკვეთრად გაიზარდა.

ტექნოლოგიური ინდუსტრიის ანალიტიკოსებმა ხაზგასმით დასძინა, რომ ციფრული ეთიკის საკითხი კომპანიებისთვის მთავარ გამოწვევად რჩება. მომხმარებელთა ნდობის შენარჩუნება მხოლოდ იმ შემთხვევაში იქნება შესაძლებელი, თუ პლატფორმები მკაცრ ბალანსს იპოვის თავისუფლებასა და უფლებების დაცვას შორის. მარეგულირებლების ზეწოლის ზრდა ტექნოლოგიურ გიგანტებს უსაფრთხოების არქიტექტურის საფუძვლიან გადახედვას აიძულებს.