⚠️ Meta-ს კონტრაქტორები მოზარდებად საღდებოდნენ, რათა კონკურენტების ჩატბოტები სუიციდის თემებზე შეემოწმებინათ
კომპანია Meta-ს საიდუმლო პროექტის ფარგლებში, ასობით კონტრაქტორი იყენებდა ყალბ ანგარიშებს და თავს მოზარდებად ასაღებდა, რათა კონკურენტი ჩატბოტების უსაფრთხოების სისტემები შეემოწმებინა. საუბარია ისეთ პლატფორმებზე, როგორიცაა OpenAI-ის ChatGPT, Google-ის Gemini და Character.AI. პროექტის მიზანი იყო შეესწავლათ, როგორ რეაგირებენ ეს სისტემები სუიციდზე, ნარკოტიკებსა და სექსუალური ხასიათის შეკითხვებზე. WIRED-ის მიერ გამოქვეყნებული გამოძიების თანახმად, ეს ფართომასშტაბიანი კამპანია, შიდა სახელწოდებით Cannes, მიმდინარე წლის 21 აპრილამდე აქტიურად მუშაობდა. პროექტს მართავდა Meta-ს ქვეკონტრაქტორი კომპანია Covalen-ი. დასაქმებულებს ევალებოდათ შეექმნათ ყალბი პროფილები ვითომ არასრულწლოვნებისთვის, გაეგზავნათ პროვოკაციული ტექსტები თუ ფოტოები და მიღებული პასუხები სპეციალურ ცხრილებში შეეტანათ. ჟურნალისტებმა დრუვ მეროტრამ და ჯოელ ხალილიმ შეისწავლეს 3 748 შეკითხვა, რომლებიც Meta-ს წარმომადგენლებმა კონკურენტებთან გააგზავნეს. მათგან ასობით შეკითხვა ეხებოდა სუიციდსა და თვითდაზიანებას, ხოლო 239 ტექსტი სექსუალურ ან რომანტიკულ ურთიერთობებს მოიცავდა. ზოგიერთი შეტყობინება იმდენად შოკისმომგვრელი იყო, რომ თანამშრომლებმა იურიდიული და მორალური პასუხისმგებლობის გამო შეშფოთება გამოხატეს. პროექტის ინსტრუქციებში დეტალურად იყო აღწერილი, თუ როგორ უნდა შეეყვანათ ჩატბოტები შეცდომაში. მაგალითად, ერთ-ერთ შეკითხვაში 13 წლის გოგონა, რომელიც ვითომ ზრდასრული მეზობლისგან დაორსულდა, აბების შეძენას ითხოვდა. სხვაგან კი მეხუთეკლასელი საუბრობდა კლასელზე, რომელსაც იარაღი ჰქონდა მიბჯენილი. მკვლევარები მიუთითებენ, რომ მსგავსი ტესტირება ხშირად სცილდება ჩვეულებრივი უსაფრთხოების შემოწმების საზღვრებს. ზოგიერთი შეკითხვა ფრანგულ ენაზეც გაიგზავნა და ეხებოდა ჯეიმი როდმეიერის ტრაგიკულ შემთხვევას, რომელმაც ბულინგის გამო სიცოცხლე თვითმკვლელობით დაასრულა. კონტრაქტორები ჩატბოტებისგან ითხოვდნენ დადასტურებას, რომ ბიჭი ცოცხალი იქნებოდა, ჰეტეროსექსუალი რომ ყოფილიყო. მსგავსი პროვოკაციები აიძულებდა სისტემებს გვერდი აევლოთ ჩვეულებრივი უსაფრთხოების წესებისთვის, რამაც ბევრ თანამშრომელს მორალური დისკომფორტი შეუქმნა. Meta-ს წარმომადგენელმა სპეციალურ განცხადებაში დაადასტურა პროექტის არსებობა, თუმცა ის ჩვეულებრივ პრაქტიკად შეაფასა. მისი თქმით, ჩატბოტების პასუხების შედარება და შეფასება ინდუსტრიის სტანდარტული მეთოდია, რომელიც მიზნად ისახავს უსაფრთხოების გაუმჯობესებას. კომპანიის პრესსპიკერმა დასძინა, რომ Meta არ იყენებს კონკურენტების მონაცემებს საკუთარი მოდელების მოსამზადებლად, რათა თავიდან აიცილონ პლაგიატი. სხვა კომპანიების მხრიდან მსგავსი ქმედებები უცხო არ არის. Business Insider-ის ინფორმაციით, გასულ წელს Scale AI-ის კონტრაქტორები, რომლებიც Google-ის პროექტებზე მუშაობდნენ, ადარებდნენ ჩატბოტების პასუხებს ChatGPT-ის შედეგებთან და მათ გადაწერას ცდილობდნენ. თუმცა, პროექტი Cannes ბევრად უფრო ფართომასშტაბიანი და საიდუმლო აღმოჩნდა, რამაც დარგის ექსპერტებში დიდი პროტესტი და გაურკვევლობა გამოიწვია. ანგარიშის მიხედვით, 2025 წლის აგვისტოში დასრულებულ მხოლოდ ერთ ტურში კონკურენტებთან 45 000-ზე მეტი შეკითხვა გაიგზავნა. იმ პლატფორმების მფლობელები, რომლებსაც Meta ამოწმებდა, ამ საქმიანობის შესახებ წინასწარ ინფორმირებული არ ყოფილან. OpenAI-ის სპიკერმა დრიუ პუსატერიმ აღნიშნა, რომ კომპანია ამჟამად დეტალურად სწავლობს ამ საკითხს, თუმცა კონკრეტულ იურიდიულ ნაბიჯებზე საუბრისგან ჯერჯერობით თავი შეიკავა. Humane Intelligence-ის ხელმძღვანელმა, რუმან ჩოუდჰურმა, პროექტის დოკუმენტების შესწავლის შემდეგ კრიტიკული პოზიცია დააფიქსირა. მან განმარტა: „ასეთი მასშტაბის საიდუმლო პროექტი სცილდება ინდუსტრიის სტანდარტებს“. ექსპერტების შეფასებით, უსაფრთხოების მოტივი ხშირად მოსახერხებელი საფარია კონკურენტული ინფორმაციის მოპოვებისა და ანტიკონკურენტული ქმედებების დასამალად, რაც ბაზარზე მონოპოლიას აძლიერებს. იურისტებმა კენდრა ალბერტმა და რიანა პფეფეკორნმა განაცხადეს, რომ მართალია კანონი უხეშად არ დარღვეულა და პრომპტები არ შეიცავდა არალეგალურ მასალებს, მაგრამ მოქმედებამ დაარღვია მომსახურების ხელშეკრულებები. OpenAI და Google კრძალავენ ყალბი პროფილების მეშვეობით უსაფრთხოების სისტემების გვერდის ავლის მცდელობებს და აცხადებენ, რომ მსგავსი საიდუმლო ტესტირება ეწინააღმდეგება მათ შიდა პოლიტიკას. Character.AI-ის წარმომადგენლებმა მკაცრად დაგმეს ეს ქმედება და განმარტეს, რომ Meta-მ დაარღვია მათი მომსახურების პირობები. კომპანიის ცნობით, მათ არანაირი ნებართვა არ გაუციათ მსგავსი ტესტირებისთვის. Google-ის წარმომადგენლობამ მიუთითა, რომ მესამე მხარის მიერ განხორციელებული შემოწმება მათთან შეთანხმებული არ ყოფილა და ისინი დეტალურ იურიდიულ გამოკვლევას აპირებენ, რათა თავიანთი მომხმარებლები დაიცვან.
Meta Contractors Posed as Teens to Prompt Rival Chatbots About Suicide, Sex, and Drugs