🎯 Tripadvisor-ის ჩატბოტი სასტუმროების სექსუალურ შევიწროებასა და მოწამ

მოგზაურობის დაგეგმვისას Tripadvisor-ის ხელოვნური ინტელექტის რჩევების ნდობა სახიფათო აღმოჩნდა. 2026 წლის 7 ივლისს გამოქვეყნებული ანგარიში აჩვენებს, რომ პლატფორმის ახალი სისტემა, რომელიც მომხმარებელთა გამოხმაურებებს აჯამებს, მალავს სერიოზულ დარღვევებს. მათ შორის არის ინფორმაცია სექსუალური შევიწროებისა და მასობრივი მოწამვლის შემთხვევების შესახებ.

ამ სიტუაციას სამომხმარებლო ორგანიზაცია Which? Travel-ის მიერ ჩატარებული კვლევა ადასტურებს. ორგანიზაციის სპეციალისტებმა აღმოაჩინეს, რომ ხელოვნური ინტელექტის შეჯამება ხშირად სრულიად არ შეესაბამება რეალობას. სისტემა უარყოფით შეფასებებს არბილებს და მომხმარებელს დამახინჯებულ სურათს აწვდის, რაც ტურისტების უსაფრთხოებას საფრთხეს უქმნის.

კვლევამ 2 კონკრეტული სასტუმრო გამოავლინა, სადაც უსაფრთხოების წესები უხეშად იყო დარღვეული. კაპე-ვერდეს ერთ-ერთ სასტუმროს ხელოვნურმა ინტელექტმა უნაკლო უწოდა. თუმცა, რეალურად ამ ობიექტის წინააღმდეგ სასამართლოში შეტანილია სარჩელი საკვებით მასობრივი მოწამვლის გამო, რაც შეჯამებაში საერთოდ არ ყოფილა ნაჩვენები.

ანალოგიური სიტუაცია აღმოჩნდა თურქეთის კურორტზე, სადაც სტუმრები სექსუალური შევიწროების შესახებ ჩიოდნენ. ხელოვნურმა ინტელექტმა სასტუმროს მეგობრული მომსახურება შეაქო. მძიმე ბრალდებები კი სისტემამ აღწერა, როგორც მცირე ხარვეზი, რომელიც მხოლოდ რამდენიმე მომხმარებელმა შეამჩნია, რითაც დანაშაულის ნიშნები სრულიად დამალა.

რორი ბოლანდმა, Which? Travel-ის რედაქტორმა, განაცხადა: „პლატფორმა ვალდებულია გადახედოს ხელოვნური ინტელექტის შეჯამებებისა და ჩატბოტის სიზუსტეს“. მისი თქმით, მომხმარებლებმა უნდა უგულებელყონ ეს მოკლე ტექსტები და პირდაპირ წაიკითხონ სტუმრების რეალური გამოხმაურებები. განსაკუთრებული ყურადღება კი 1-ვარსკვლავიან შეფასებებს უნდა მიექცეს.

სპეციალისტების განმარტებით, ხელოვნური ინტელექტის მიერ ინფორმაციის შერბილება სისტემის არასწორი მომზადებით არის განპირობებული. ლონდონის საუნივერსიტეტო კოლეჯის პროფესორმა, დანკან ბრამბიმ, განმარტა, რომ სისტემა ცდილობს ზედმეტად თავაზიანი იყოს. მისი ინფორმაციით, ალგორითმები ხშირად ასუფთავებს და ასწორებს კუთხეებს მკვეთრი შეფასებების დროს.

ამგვარი მიდგომა ხელოვნური ინტელექტის უსაფრთხოების ფილტრებითაც არის განპირობებული. ჩატბოტები პროგრამულად არის შეზღუდული, რომ არ ისაუბრონ ისეთ თემებზე, როგორიცაა სექსუალური ძალადობა ან სხვა მძიმე ინციდენტები. შედეგად, სისტემა ამ სიტყვებს უბრალოდ შლის ან ანაცვლებს ნეიტრალური ფრაზებით, რაც რეალურ სურათს ამახინჯებს.

სამომხმარებლო ორგანიზაციის ბრალდებებს Tripadvisor-ის წარმომადგენლები გამოეხმაურნენ. კომპანიის ოფიციალურ განცხადებაში ნათქვამია, რომ სისტემა ავტომატურად თიშავს ხელოვნური ინტელექტის შეჯამებას იმ ობიექტებისთვის, სადაც 3 ტიპის მძიმე ინციდენტი ფიქსირდება: სიკვდილი, ნარკოტიკული საშუალებების გამოყენება და სექსუალური ძალადობა.

კომპანიის ცნობით, ისინი უკვე სწავლობენ გამოვლენილ შემთხვევებს, სადაც რეალური შეფასებები და ხელოვნური ინტელექტის ტექსტი ერთმანეთს არ ემთხვეოდა. თუმცა, პლატფორმა კვლავ გამოხატავს ნდობას საკუთარი ტექნოლოგიების მიმართ. მომხმარებელთა უფლებების დამცველები კი მიიჩნევენ, რომ მსგავსი სისტემები ჯერ მზად არ არის პრაქტიკული გამოყენებისთვის.

ეს შემთხვევა კიდევ ერთხელ ადასტურებს, რომ ხელოვნური ინტელექტის მიერ მომზადებული ინფორმაცია ყოველთვის გადამოწმებას საჭიროებს. ტექნოლოგიების გამოყენებამ არ უნდა ჩაანაცვლოს ადამიანის მიერ მონაცემების დამოუკიდებელი ანალიზი. ტურისტებმა თავადვე უნდა შეამოწმონ რეალური ადამიანების მიერ დაწერილი გამოხმაურებები, რათა საკუთარი უსაფრთხოება დაიცვან.

მოგზაურობის ექსპერტები მიუთითებენ, რომ მსგავსი შეცდომები ხელოვნური ინტელექტის ბევრ სხვა სფეროშიც ვლინდება. კომპანია ხშირად ჩქარობს ახალი ინსტრუმენტების დანერგვას, რათა კონკურენტებს არ ჩამორჩეს, თუმცა სათანადოდ არ ამოწმებენ მათ საიმედოობას. ეს კი საბოლოო ჯამში მომხმარებლის ინტერესებს აზიანებს და აფერხებს ტექნოლოგიების განვითარებას.

საბოლოო ჯამში, Tripadvisor-ის გარშემო ატეხილი სკანდალი კარგი გაკვეთილია სხვა პლატფორმებისთვისაც. ხელოვნური ინტელექტი სასარგებლო დამხმარე საშუალებაა, თუმცა მისი გამოყენება კრიტიკულ სიტუაციებში საფრთხის შემცველია. უახლოეს პერიოდში კომპანიას მოუწევს სრულიად შეცვალოს საკუთარი ალგორითმები, რათა ტურისტების ნდობა კვლავ დაიბრუნოს. ეს შემთხვევა ნათლად აჩვენებს, რომ ტექნოლოგიების დანერგვამდე მათი ყოველმხრივი და დეტალური შემოწმება აუცილებელია.