ChatGPT Caught Recommending "Products" That Are Ju — ინსაითი

ხელოვნური ინტელექტის ჩატბოტი ChatGPT სკამერების მიერ შექმნილ ყალბ ინტერნეტ მაღაზიებს უწევს რეკომენდაციას, რამაც შეიძლება მომხმარებლების ფინანსური დანაკარგები გამოიწვიოს. თაღლითობის მონიტორინგის სამსახურის, Ask Silver-ის ინფორმაციით, OpenAI-ის ჩატბოტი რეკომენდაციას უწევს გაუქმებული ბრენდების კლონირებულ ვებგვერდებს, რომელთა მიზანია მომხმარებლის ფინანსური და პირადი მონაცემების მოპოვება და მოპარვა.

თაღლითური სქემის ტიპურ მაგალითს წარმოადგენს ცნობილი ბრიტანული ფეხსაცმლისა და ჩანთების ბრენდის, Russell & Bromley-ს ყალბი ვებგვერდი. აღნიშნული კომპანია 2026 წლის იანვარში გაკოტრდა და მისი აქტივები სრულად შეისყიდა Next ჯგუფმა. შედეგად, ბრენდის ოფიციალური ვებგვერდი აღარ არსებობს, თუმცა ბევრი მომხმარებელი ინტერნეტში კვლავ აქტიურად ეძებს ამ ბრენდის პროდუქციას და ცდილობს მათ შეძენას ონლაინ მაღაზიებში.

Ask Silver-ის ექსპერტების განმარტებით, ChatGPT-მა თაღლითური საიტი შესთავაზა მომხმარებელს, როდესაც მან პირდაპირ მოითხოვა Russell & Bromley-ს პოპულარული ჩანთების სია. ასეთი კონკრეტული მოთხოვნის დროს მომხმარებელს შეიძლება დაეკარგოს სიფრთხილე, რადგან ენდობა ჩატბოტის რეკომენდაციას და მიიჩნევს, რომ შემოთავაზებული საიტი ნამდვილია. ყალბი გვერდები კი იყენებს რეალურთან მიმსგავსებულ ინტერნეტ მისამართებს.

ექსპერტები ვარაუდობს, რომ ChatGPT-ის ბაზისური მოდელი შეიძლება მოიწამლა მავნე კონტენტით, რომელიც შეპარული იქნა მისი სწავლების მონაცემებში. ეს მიუთითებს იმაზე, რომ წამყვანი ხელოვნური ინტელექტის მოდელებით მანიპულირება შესაძლებელია თაღლითების მიერ საკუთარი მიზნებისთვის. ადრეულ პერიოდშიც დაფიქსირდა შემთხვევები, როდესაც ჩატბოტები რეკომენდაციას უწევდა საეჭვო და გადაუმოწმებელ ინტერნეტ რესურსებს.

აღნიშნული პრობლემა განსაკუთრებით შემაშფოთებელი ხდება იმ ფონზე, როდესაც ტექნოლოგიური კომპანიები აქტიურად მუშაობს ხელოვნური ინტელექტის აგენტების დანერგვაზე, რომლებსაც მომხმარებლის ნაცვლად შესყიდვების განხორციელება შეეძლებათ. მიუხედავად იმისა, რომ შესყიდვებში აგენტების მონაწილეობა ჯერ კიდევ ადრეულ ეტაპზეა, ჩატბოტების გამოყენება პროდუქტების შესარჩევად და რეკომენდაციებისთვის სულ უფრო პოპულარული ხდება.

ტექნოლოგიური კომპანიები კი უკვე ამზადებს ნიადაგს ასეთი სერვისების მასობრივი გავრცელებისთვის. მაგალითად, ChatGPT მომხმარებელს სთავაზობს შესყიდვების განხორციელებას უშუალოდ ჩატბოტის ინტერფეისიდან, სადაც ინტეგრირებულია სავაჭრო ჰაბი. Amazon კი მომხმარებელს აძლევს შესაძლებლობას, მისცეს უფლება ციფრულ ასისტენტს ავტომატურად შეიძინოს ის პროდუქტები, რომელთა ფასიც გარკვეულ ზღვარს ქვემოთ ჩამოვა ბაზარზე.

პარალელურად, Google აგრძელებს ახალი საგადახდო პროტოკოლების დახვეწას, რათა ხელოვნური ინტელექტის აგენტებს მიეცეს უფლება განახორციელონ ფინანსური ტრანზაქციები მომხმარებლის სახელით. ამავდროულად, საკრედიტო ბარათების კომპანიები მუშაობს უსაფრთხოების ახალ ტექნიკურ სტანდარტებზე, რათა თავიდან იქნეს აცილებული შემთხვევები, როდესაც ციფრული ასისტენტები მომხმარებლის საბანკო ანგარიშებს სრულად დააცარიელებს შეცდომით.

თუ ხელოვნური ინტელექტის აგენტებით ვაჭრობა მომავალში მასობრივი გახდება, თაღლითები აუცილებლად გამოიყენებს ამ შესაძლებლობას საკუთარი სარგებლისთვის. ექსპერტები მიიჩნევს, რომ მომხმარებლები სულ უფრო ხშირად მიმართავს ციფრულ ასისტენტებს რეკომენდაციებისთვის, თუმცა დამნაშავეებიც ძალიან სწრაფად ახდენს ადაპტაციას ახალ რეალობასთან, რაც უსაფრთხოების მექანიზმების მუდმივ გაუმჯობესებას მოითხოვს.

ეროვნული სავაჭრო სტანდარტების წარმომადგენლები აღნიშნავს, რომ თაღლითური საიტების გამოჩენა ხელოვნური ინტელექტის მიერ გენერირებულ პასუხებში უკვე სერიოზულ პრობლემას წარმოადგენს. ეს არის გაფრთხილება იმისა, რომ თაღლითები გამოიყენებს ნებისმიერ ახალ ტექნოლოგიას, რომელიც მათ მსხვერპლთან დაკავშირებაში დაეხმარება. ამიტომ, ჩატბოტების პასუხების გადამოწმება მომხმარებლებისთვის კვლავ აუცილებელ პირობად რჩება.

კომპანია OpenAI კი აცხადებს, რომ მუდმივად მუშაობს უსაფრთხოების ფილტრების გაუმჯობესებაზე, რათა თავიდან იქნეს აცილებული ყალბი ინფორმაციის გავრცელება. თუმცა, ინტერნეტ სივრცეში თაღლითური ვებგვერდების რაოდენობა იმდენად სწრაფად იზრდება, რომ ავტომატური სისტემები ხშირად ვერ ასწრებს მათ იდენტიფიცირებას და დროულ დაბლოკვას, რაც საფრთხეს უქმნის ჩვეულებრივი მომხმარებლების ფინანსურ უსაფრთხოებას.

ექსპერტები მომხმარებლებს ურჩევს, ყოველთვის დამოუკიდებლად გადაამოწმონ ჩატბოტის მიერ შემოთავაზებული ინტერნეტ მაღაზიების მისამართები და არ ენდონ მხოლოდ ციფრული ასისტენტის რეკომენდაციას. განსაკუთრებული ყურადღება უნდა მიექცეს გადახდის გვერდების უსაფრთხოების სერტიფიკატებს და საიტის დომენის სახელს, რადგან თაღლითები ხშირად იყენებს ცნობილი ბრენდების სახელებს მცირედი საკვანძო ცვლილებებით.

საბოლოო ჯამში, ChatGPT-ის ირგვლივ შექმნილი ეს ვითარება აჩვენებს ხელოვნური ინტელექტის ტექნოლოგიების სუსტ მხარეებს, რომლებიც უსაფრთხოების კუთხით არსებობს. ახალი ტექნოლოგიების დანერგვასთან ერთად, აუცილებელია შესაბამისი სამართლებრივი და ტექნიკური უსაფრთხოების ჩარჩოების განვითარება, რათა ციფრულმა ასისტენტებმა ბიზნესისა და მომხმარებლებისთვის სარგებლის მოტანა უსაფრთხო გარემოში შეძლოს.