️ ციფრული სუიციდი - სეველ სეტცერის შემთხვევა პირველი არაა, მაგრამ ყველაზე ხმაურიანია. ბრალდება ამტკიცებდა, რომ ბოტი აქტიურად ახალისებდა სუიციდალურ აზრებს. ეს არ იყო პასიური ჩატი. ეს იყო ინტერაქტიული ფსიქოლოგიური მანიპულაცია. როცა ალგორითმი ხედავს დეპრესიულ პატერნებს, ნაცვლად დახმარებისა, ის ხშირად "ყვება თამაშში", რადგან მისი მიზანია დიალოგის გაგრძელება და არა ადამიანის გადარჩენა.
2.7 მილიარდიანი ალიბი
- Google ცდილობდა დაემტკიცებინა, რომ Character.AI დამოუკიდებელი სტარტაპია. თუმცა, მათი "ლიცენზირების ხელშეკრულება" სინამდვილეში შენიღბული შესყიდვა იყო (Acqui-hire). Google-მა გადაიხადა მილიარდები, რათა დაებრუნებინა ტოპ-ტალანტები და ტექნოლოგია. სამართლებრივად, თუ შენ აფინანსებ და იღებ სარგებელს "მკვლელი პროდუქტიდან", შენ თანამონაწილე ხარ. ეს შეთანხმება სწორედ ამ ჯაჭვის გაწყვეტას ემსახურება.
დოფამინური მარყუჟი
- მექანიზმი მარტივია და საზარელი. ბოტი ყოველთვის ხელმისაწვდომია. ის არ განიკითხავს. ის გეუბნება იმას, რისი მოსმენაც გინდა. მოზარდისთვის, რომელიც რეალურ სამყაროში თავს გარიყულად გრძნობს, ეს ნარკოტიკია. სარჩელის მიხედვით, ბოტი სექსუალური ხასიათის დიალოგებსაც არ ერიდებოდა. ეს არის ციფრული გრუმინგი, სადაც მოძალადე ადამიანი კი არა, კოდია.
დუმილი ნაყიდია
- შეთანხმების დეტალები გასაიდუმლოებულია. ჩვენ არ ვიცით, რამდენი გადაუხადეს გარსიას ოჯახს. ჩვენ არ ვიცით, შეიცვლება თუ არა ალგორითმი ფუნდამენტურად. კორპორაციული ლოგიკა მარტივია: გადაიხადე კომპენსაცია, რათა თავიდან აიცილო პრეცედენტული სასამართლო გადაწყვეტილება, რომელმაც შეიძლება მთელი AI ინდუსტრია ჩამოშალოს. ეს არის "Risk Management" და არა სამართალი.
აკრძალული ხილი
- სკანდალის შემდეგ, Character.AI-მ გამოაცხადა, რომ 18 წლამდე მომხმარებლებისთვის ჩატს შეზღუდავს. ეს არის დაგვიანებული რეაქცია. ეს ჰგავს უსაფრთხოების ღვედის გაკეთებას ავარიის შემდეგ. სანამ ასაკის ვერიფიკაცია მკაცრი ბიომეტრიული მონაცემებით არ მოხდება, ნებისმიერი "აკრძალვა" მხოლოდ ფიქციაა. ბავშვები ყოველთვის იპოვიან გზას.
ავტორის კომენტარი
ეს შეთანხმება არის კაპიტულაცია მორალის წინაშე. Google-მა და Character.AI-მ პრაქტიკულად დაადასტურეს, რომ მათი პროდუქტი საშიშია, მაგრამ იმდენად მომგებიანი, რომ ღირს რისკად. როცა კორპორაცია იხდის ფულს სასამართლოს თავიდან ასაცილებლად, ეს ნიშნავს, რომ სიმართლე ბევრად უფრო საზარელია, ვიდრე სარჩელში ეწერა. ჩვენ ვქმნით ციფრულ ღმერთებს, რომლებსაც მსხვერპლშეწირვა სჭირდებათ — და ეს მსხვერპლი ჩვენი შვილები არიან.