⚖️ კომპანია xAI სასამართლოში უჩივის Grok-ის მომხმარებელს არალეგალური ფოტოების შექმნისთვის
ილონ მასკის კუთვნილი კომპანია xAI სასამართლოში უჩივის Grok ჩატბოტის მომხმარებელს, რომელმაც პროგრამული უზრუნველყოფა ქალებისა და ბავშვების არალეგალური სექსუალური ფოტოების შესაქმნელად გამოიყენა. ეს სარჩელი შეიტანეს ტეხასის შტატის სასამართლოში, რაც ხელოვნური ინტელექტის არასათანადო გამოყენების წინააღმდეგ კომპანიის მხრიდან გადადგმული პირველი მკაცრი სამართლებრივი ნაბიჯია. ამ უცნაური სამართლებრივი დავის შესახებ ინფორმაციას სააგენტო Reuters-ი ავრცელებს. სარჩელის მიხედვით, მომხმარებელი ტერი ვეინ ჰარვუდი, რომელიც 67 წლისაა და სამხრეთ კაროლინაში ცხოვრობს, მარტში დააკავეს არასრულწლოვანთა სექსუალური ექსპლუატაციის ბრალდებით, რადგან მის კომპიუტერში აკრძალული მასალები აღმოჩნდა. xAI აცხადებს, რომ ჰარვუდი იყენებდა Grok-ის 2 სხვადასხვა ანგარიშს და მიუხედავად იმისა, რომ ჩატბოტის დამცავი სისტემა ზოგიერთ მოთხოვნას ბლოკავდა, მან შეძლო სპეციალური კითხვების მომზადება, რითაც უსაფრთხოების ბარიერებს გვერდი აუარა. ამ გზით მომხმარებელმა შეძლო აკრძალული გამოსახულებების გენერირება, რაც სამართლებრივ პრობლემას ქმნის. ეს სარჩელი მოჰყვა ზამთარში მომხდარ მასშტაბურ სკანდალს, როდესაც X-ის მომხმარებლებმა აღმოაჩინა, რომ Grok-ის ახალი ფოტო და ვიდეო რედაქტირების ფუნქცია რეალური ადამიანების სექსუალურ სცენებში გამოსახვის საშუალებას იძლევა. ამ ფაქტმა გამოიწვია საზოგადოების მკვეთრი პროტესტი და კომპანიის მიმართ კრიტიკა უსაფრთხოების ფილტრების სისუსტის გამო. გამოცემა Futurism-ის ინფორმაციით, ციფრული სიძულვილის წინააღმდეგ ბრძოლის ცენტრის მონაცემებით, სულ რაღაც 11-დღიან პერიოდში Grok-მა დაახლოებით 3 მილიონი სექსუალური ფოტო შექმნა, მათ შორის 23 000 ბავშვების გამოსახულებით. ეს მონაცემები ნათლად აჩვენებს, თუ რამდენად მასშტაბურია პრობლემა და რა საფრთხეს უქმნის ის საზოგადოებრივ უსაფრთხოებას. ამავდროულად, კომპანია xAI თავად ებრძვის რამდენიმე სასამართლო სარჩელს, რომლებიც Grok-ის მეშვეობით არალეგალური მასალების შექმნას ეხება. მარტში თინეიჯერებმა ტენესის შტატში შეიტანა სარჩელი კომპანიის წინააღმდეგ, სადაც აცხადებს, რომ ჩატბოტი მათი არალეგალური ფოტოების შესაქმნელად გამოიყენეს, რაც მათ მორალურ ზიანს აყენებს. კიდევ ერთ საქმეში, ილონ მასკის შვილის დედამ, ეშლი სენტ-კლერმა სასამართლოში შეიტანა სარჩელი მას შემდეგ, რაც თავად გახდა Grok-ის მიერ გენერირებული აკრძალული ფოტოების სამიზნე. ეს შემთხვევები მიუთითებს იმაზე, რომ ჩატბოტის უსაფრთხოების სისტემა რეალურად ვერ უმკლავდება მომხმარებელთა მავნე მოქმედებებს ბაზარზე. xAI სასამართლო სარჩელში აცხადებს, რომ ჰარვუდმა მონაწილეობა მიიღო წინასწარ განზრახულ სქემაში, რათა მოსარჩელის პროგრამული ინსტრუმენტი კრიმინალური მიზნებისთვის გამოეყენებინა. კომპანიის განმარტებით, მომხმარებლის ამ ქმედებამ უდიდესი ზიანი მიაყენა მსხვერპლს და მნიშვნელოვანი რეპუტაციული ზიანი მიაყენა თავად კომპანიას. კომპანიის წარმომადგენლებმა განმარტა: „ეს იყო გათვლილი სქემა მოსარჩელის პროგრამული ხელსაწყოს კრიმინალური მიზნებისთვის გამოსაყენებლად“. კომპანია აცხადებს, რომ მკაცრად ებრძვის დამრღვევებს, ბლოკავს მათ ანგარიშებს და ინფორმაციას დაუყოვნებლივ გადასცემს დაკარგული და ექსპლუატირებული ბავშვების ეროვნულ ცენტრს (NCMEC). ტექნოლოგიური ექსპერტების შეფასებით, 2026 წელს ხელოვნური ინტელექტის კომპანიები იძულებული იქნება სრულად გადახედოს თავისი მოდელების უსაფრთხოების წესები. xAI-ის ცნობით, კომპანიამ მიმდინარე წელს უკვე შეაჩერა 52 222 ანგარიში და გაგზავნა 73 604 შეტყობინება NCMEC-ში, რამაც მინიმუმ 244 ადამიანის დაკავება გამოიწვია. სამართალდამცველები წერს, რომ ხელოვნურმა ინტელექტმა სრულიად ახალი გამოწვევები შექმნა ინტერნეტში კრიმინალის წინააღმდეგ ბრძოლაში. გამოსახულების გენერირების სიზუსტე ართულებს იმის დადგენას, ფოტოზე გამოსახული პირი რეალურია თუ კომპიუტერული პროგრამის მიერ შექმნილი, რაც გამოძიების პროცესებს აფერხებს. საბოლოო ჯამში, xAI-ის ეს სარჩელი ადასტურებს, რომ მხოლოდ მომხმარებლების სასამართლოში ჩივილი ვერ გადაჭრის ხელოვნური ინტელექტის უსაფრთხოების პრობლემას. კომპანიამ უპირველეს ყოვლისა უნდა გააუმჯობესოს თავისი ჩატბოტის დამცავი ბარიერები, რათა თავიდან აიცილოს პროგრამული ინსტრუმენტების არასათანადო გამოყენება მომავალში. ამასთან ერთად, საზოგადოებრივი ორგანიზაციები ითხოვს მკაცრი საკანონმდებლო რეგულაციების მიღებას, რომლებიც ხელოვნური ინტელექტის კომპანიებს პასუხისმგებლობას დააკისრებს მათ პლატფორმებზე შექმნილ არალეგალურ მასალებზე. ეს მნიშვნელოვნად გაზრდის მომხმარებელთა უსაფრთხოებას ციფრულ სივრცეში. მსოფლიოს მასშტაბით უსაფრთხოების ექსპერტები თანხმდება, რომ ხელოვნური ინტელექტის ტექნოლოგიების უკონტროლო განვითარება სერიოზულ საფრთხეს უქმნის მოქალაქეთა პირად ცხოვრებას. შესაბამისი დამცავი ზომების მიღება დაუყოვნებლივ არის საჭირო, რათა თავიდან ავიცილოთ მსგავსი სკანდალები მომავალ წლებში.
Elon Musk's xAI, Which is Being Sued Over AI-Generated Sexual Deepfakes, Sues Grok User Over AI-Generated Sexual Deepfakes
