Grok Is Still Hosting Sexualized Deepfakes of Famo — ინსაითი

ჟურნალისტურმა გამოძიებამ აჩვენა, რომ Elon Musk-ის ჩატბოტი Grok კვლავ გამოიყენება ცნობილი ქალების, მათ შორის კონგრესმენ ალექსანდრია ოკასიო-კორტესის არაკონსენსუალური ეროტიკული ფოტოებისა და ვიდეოების შესაქმნელად. სურათების ნაწილი განთავსებულია Grok.com-ის საჯარო სერვერებზე, რაც ხელმისაწვდომია ნებისმიერი მომხმარებლისთვის. ეს ვითარება სერიოზულად აზიანებს კომპანიის რეპუტაციას და აფერხებს მის განვითარებას.

xAI-ის წარმომადგენლებმა განმარტეს დამცავი ფილტრების შექმნის შესახებ, თუმცა მომხმარებლები მაინც ახერხებენ მათ გვერდის ავლით ყალბი მასალის შექმნას. იანვარში Grok-მა 3 მილიონი ასეთი სურათი შექმნა, მათ შორის 20 000-ზე მეტი არასრულწლოვნების გამოსახულებით. კომპანიის მონაცემებით, ფილტრების მუშაობა მუდმივად უმჯობესდება, თუმცა ხარვეზები კვლავ ბევრია. ბევრი მომხმარებელი და უფლებადამცველი აქტიურად მოითხოვს უფრო მკაცრი ზომების მიღებას.

დედა კომპანია SpaceX გეგმავს ბირჟაზე გასვლას, თუმცა მის დოკუმენტებში აღნიშნულია, რომ Grok-ის გამო სასამართლო დავებისთვის $530 მილიონის რეზერვია შექმნილი. კანადის მარეგულირებელმა xAI-ს მიერ კონფიდენციალობის კანონის დარღვევა დაადასტურა. ეს ინფორმაცია მნიშვნელოვანია პოტენციური ინვესტორებისთვის, რომლებიც რისკებს აფასებენ. ფინანსური რისკების დეტალური გათვალისწინება აუცილებელია საინვესტიციო გადაწყვეტილებებისას.

„არაკონსენსუალური ეროტიკული სურათების შექმნა და მათი მყისიერი გავრცელება არის ადამიანის უფლებების უხეში დარღვევა“, - განაცხადა ადვოკატმა, კერი გოლდბერგმა. ადვოკატის შეფასებით, რომ ილონ მასკის პლატფორმა ხელს უწყობს ციფრულ ძალადობას. გოლდბერგი მოითხოვს კანონმდებლობის გამკაცრებას, რომელიც დაავალდებულებს პლატფორმებს ყალბი მასალის დაუყოვნებლივ წაშლას. ციფრული უსაფრთხოებისა და პირადი მონაცემების დაცვის უზრუნველყოფა ხდება გლობალური გამოწვევა.

Wired-ის გამოძიება წერს, რომ Grok-ის საჯარო ბმულები ხშირად ზიარდება X სოციალურ ქსელში, რაც ზრდის მათ ხილვადობას. მიუხედავად იმისა, რომ სხვა მოდელები, როგორიცაა ChatGPT და Claude, ბლოკავენ მსგავს მოთხოვნებს, Grok-ის Spicy და Unhinged რეჟიმები გაცილებით ლიბერალურია. ეს ქმნის ორმაგ სტანდარტებს ინდუსტრიაში. ეს შემაშფოთებელი ფაქტი კიდევ ერთხელ ამახვილებს ყურადღებას ლიცენზირების არსებულ წესებზე.

მარეგულირებლებმა ევროპასა და ამერიკაში უკვე დაიწყეს xAI-ის წინააღმდეგ საქმის შესწავლა. თუ დადასტურდება, რომ კომპანია ხელს უწყობდა ყალბი მასალების გავრცელებას, მას ემუქრება მრავალმილიონიანი ჯარიმები. ეს საფრთხეს უქმნის SpaceX-ის დაგეგმილ IPO-ს, რომელიც მიმდინარე კვირაში უნდა განხორციელებულიყო. ტექნოლოგიური კომპანიების სამართლებრივი პასუხისმგებლობის საკითხი სულ უფრო აქტუალური და მნიშვნელოვანი ხდება.

ილონ მასკის წარმომადგენლებმა განაცხადეს, რომ კომპანია მკაცრად კრძალავს არასრულწლოვნების სექსუალიზაციას და CSAM მასალებს. თუმცა, დაზარალებულები აცხადებენ, რომ რეაგირება ხშირად დაგვიანებულია. ბევრი სურათი პლატფორმაზე რამდენიმე დღის განმავლობაში რჩება ხელმისაწვდომი, რაც ზრდის მორალურ ზიანს. ბავშვთა და მოზარდთა უფლებების დაცვა ციფრულ სივრცეში არის უმნიშვნელოვანესი პრიორიტეტი საზოგადოებისთვის.

უსაფრთხოების ექსპერტების შეფასებით, xAI-ის ლიბერალური პოლიტიკა არის შეგნებული მარკეტინგული ნაბიჯი მომხმარებლების მოსაზიდად. OpenAI-სა და Google-ის მკაცრი წესების ფონზე, Grok-ი პოზიციონირებს როგორც თავისუფალი პლატფორმა. თუმცა, ეს მიდგომა იწვევს სამართლებრივ პრობლემებს და რეპუტაციის შელახვას. მომხმარებელთა მოზიდვის მსგავსი მეთოდები ხშირად შეიცავს სერიოზულ სამართლებრივ რისკებს.

კონკურენცია ხელოვნური ინტელექტის ბაზარზე აიძულებს კომპანიებს, ბალანსი დაამყარონ გამოხატვის თავისუფლებასა და უსაფრთხოებას შორის. მარეგულირებლების მხრიდან წნეხის ზრდა მიუთითებს იმაზე, რომ თავისუფალი რეჟიმების ეპოქა სრულდება. 2026 წელს მოსალოდნელია ახალი გლობალური წესების მიღება ყალბი მასალების წინააღმდეგ საბრძოლველად. ახალი წესების მიღება დაეხმარება მომხმარებელთა უფლებებისა და უსაფრთხოების დაცვას.

საბოლოო ჯამში, Grok-ის გარშემო არსებული სკანდალი აჩვენებს, რომ ტექნოლოგიური პროგრესი იწვევს ახალ სოციალურ საფრთხეებს. არაკონსენსუალური ეროტიკული ფოტოების შექმნა საფრთხეს უქმნის ადამიანების უსაფრთხოებას და მოითხოვს მკაცრ სამართლებრივ პასუხს. მოვლენების განვითარება დამოკიდებულია მარეგულირებლების აქტიურობაზე. ტექნოლოგიური გიგანტების საქმიანობა ამ სექტორში უნდა იყოს სრულად გამჭვირვალე.