ამჟამად 11 წლის ბავშვები სკოლებში გლობალური ეპიდემიის მსხვერპლები არიან, სადაც თანაკლასელები ხელოვნური ინტელექტის გამოყენებით მათ ფოტოებს ამუშავებენ და ავრცელებენ.
სიტუაციის არსი ბევრად სცდება უბრალო მოდერაციის პრობლემას. ინდუსტრია წლების განმავლობაში გვარწმუნებდა, რომ აპლიკაციების მაღაზიები უსაფრთხოების ციხესიმაგრეებს წარმოადგენს. მომხმარებლები იხდიან დამატებით ღირებულებას დახურულ ეკოსისტემაში ყოფნისთვის. 122-მილიონიანი მაჩვენებელი ზუსტად ამ ილუზიის მსხვრევას აღრიცხავს. ფინანსური ნაკადები აჩვენებს, რომ ტექნოლოგიური გიგანტები ბრმა მესაზღვრეების როლს თამაშობენ, რომლებიც ხარვეზებს მხოლოდ მაშინ ამჩნევენ, როცა ეს მათ შემოსავალს არ ურტყამს. აქ ვხედავთ პირდაპირ კავშირს კორპორაციულ მოგებასა და საზოგადოებრივ ზიანს შორის.
Tech Transparency Project-ის დამოუკიდებელმა კვლევამ სურათი კიდევ უფრო დაამძიმა. ორგანიზაციამ დაადასტურა, რომ პლატფორმები უბრალოდ პასიური მასპინძლები არ არიან. Apple და Google საძიებო ალგორითმების მეშვეობით მომხმარებლებს პირდაპირ მიმართავენ ამ აპლიკაციებისკენ. ავტომატური შევსების ფუნქცია და რეკომენდაციების სისტემა აქტიურად მუშაობს ტრაფიკის გენერირებაზე. საძიებო ველში შეყვანილი ერთი ნეიტრალური სიტყვა საკმარისია იმისთვის, რომ სისტემამ მომხმარებელს მავნე ინსტრუმენტი შესთავაზოს. ეს აღარ არის უყურადღებობა. ეს არის ალგორითმული თანამონაწილეობა მოგების სანაცვლოდ.
როდესაც სისტემა ფინანსურად დაინტერესებულია ტრაფიკის შენარჩუნებაში, მოდერაციის მექანიზმები ყოველთვის ფორმალურ ხასიათს ატარებს. 30-პროცენტიანი საკომისიო ნებისმიერი ეთიკური კოდექსის წინააღმდეგ ძლიერ იმუნიტეტს ქმნის.
ტექნიკური თვალსაზრისით ეს პროცესი კლასიკურ კატა-თაგვობანას თამაშს ჰგავს, სადაც ორივე მხარეს აწყობს პროცესის უსასრულობა. დეველოპერები იყენებენ ღია კოდის მქონე მოდელებს და მათ სპეციფიკური მონაცემთა ბაზებით წვრთნიან. აპლიკაციების მაღაზიაში განსათავსებლად ისინი იყენებენ ე.წ. შენიღბვის ტაქტიკას. პროგრამა თავდაპირველად იტვირთება როგორც უწყინარი ფოტო-რედაქტორი ან ხელოვნების გენერატორი. კოდის შემოწმების პროცესი წარმატებით სრულდება, რადგან მთავარი ძრავა დისტანციურ სერვერებზეა განთავსებული და არა თავად აპლიკაციაში. რევიზიის გავლის შემდეგ, დეველოპერი სერვერის მხარეს რთავს რეალურ ფუნქციონალს.
ეფლის და გუგლის ინჟინრებმა ეს მექანიზმი ზედმიწევნით კარგად იციან. ტექნიკური თვალსაზრისით პრობლემის მოგვარება მარტივია. სერვერებთან კომუნიკაციის ანალიზი და დინამიური ტესტირება ამ აპლიკაციებს რამდენიმე წუთში გამოავლენდა. მიუხედავად ამისა, კორპორაციები ირჩევენ სტატიკურ შემოწმებას. რა ხდება ამ დროს ეკონომიკურ ფრონტზე? დეველოპერები იყენებენ აგრესიულ სააბონენტო მოდელებს. მომხმარებლები იხდიან კვირაში 10 ან 20 დოლარს. ამ თანხის მესამედი ავტომატურად ირიცხება პლატფორმების ანგარიშებზე. ფინანსური მანქანა მუშაობს უნაკლოდ, სანამ ვინმე გარედან არ გააკეთებს აუდიტს.
Wired-ის ჟურნალისტებმა შეისწავლეს ამ ციფრული მიწოდების ჯაჭვის ბოლო წერტილი. შედეგები კატასტროფულია. სკოლები მთელ მსოფლიოში აწყდებიან პრობლემას, რომლის გადაჭრის ინსტრუმენტები არ გააჩნიათ. 11-12 წლის მოზარდები იყენებენ ტელეფონებს, რომლებიც მშობლებმა უყიდეს და აპლიკაციებს, რომლებიც ოფიციალური მაღაზიებიდან გადმოწერეს. ტექნოლოგიური ბარიერი ნულამდეა დასული. თუ ადრე მსგავსი კონტენტის შექმნას სპეციფიკური ცოდნა და ძლიერი კომპიუტერი სჭირდებოდა, დღეს ეს ორი ღილაკის დაჭერით ხდება. აპლიკაციების ხელმისაწვდომობა ინსტიტუციონალიზებულ ძალადობას ქმნის. სკოლის ადმინისტრაციები უძლურნი არიან, რადგან ტექნოლოგია მათზე სწრაფად ვრცელდება.
ეს 122 მილიონი დოლარი იურიდიულ ლანდშაფტს ფუნდამენტურად შეცვლის. აქამდე პლატფორმები თავს იცავდნენ ამერიკული კანონმდებლობის 230-ე მუხლით, რომელიც მათ მომხმარებლების მიერ შექმნილ კონტენტზე პასუხისმგებლობისგან ათავისუფლებს. თუმცა Tech Transparency Project-ის მიერ აღმოჩენილი ალგორითმული წახალისების ფაქტები ამ დაცვას ანადგურებს. როდესაც სისტემა თავად გთავაზობს ინსტრუმენტს და მისი გაყიდვიდან პირდაპირ იღებს პროცენტს, ის წყვეტს ნეიტრალურ სივრცედ ყოფნას. ის ხდება პროდუქტის დისტრიბუტორი.
ჩვენ ვუახლოვდებით მომენტს, როდესაც ინდუსტრიას მოუწევს აირჩიოს ღია ეკოსისტემასა და მკაცრ იურიდიულ პასუხისმგებლობას შორის. მსხვერპლთა მშობლების კოლექტიური სარჩელები გარდაუვალია. იურიდიული ფირმები უკვე ამზადებენ ნიადაგს პრეცედენტული საქმეებისთვის. სკოლებში მიმდინარე კრიზისი მხოლოდ კატალიზატორია. მთავარი სამიზნე არა დეველოპერები, არამედ დისტრიბუციის არხები იქნება. ინვესტორებისთვის ეს ნიშნავს, რომ აპლიკაციების მაღაზიების მომგებიანობის მოდელი სერიოზული რისკის ქვეშ დგება. ყოველი ცენტი, რომელიც ამ გზით არის გამომუშავებული, პოტენციურ იურიდიულ ხარჯად გარდაიქმნება.
ავტორის კომენტარი
როდესაც სისტემა მუდმივად ერთი და იგივე მიმართულებით ცდება, ეს აღარ არის შეცდომა. ეს დიზაინის ნაწილია.
ჩემი პოზიცია ცალსახაა. ტექნოლოგიური გიგანტების მოდერაციის სისტემები არ არის გაფუჭებული. ისინი მუშაობენ ზუსტად ისე, როგორც დაპროგრამებულია - მაქსიმალურად ამცირებენ ხახუნს მომხმარებლის საფულესა და კორპორაციის საბანკო ანგარიშს შორის. 122 მილიონი დოლარი ეფლისთვის და გუგლისთვის ფინანსურად მიზერული თანხაა, მაგრამ ის სრულყოფილად ასახავს მათ პრიორიტეტებს. პრობლემის გადაწყვეტა არ მოხდება ახალი პოლიტიკის დაწერით ან ალგორითმების კოსმეტიკური ცვლილებით. ერთადერთი მექანიზმი, რომელიც ამ კორპორაციებს ენას ესმის, არის ფინანსური პასუხისმგებლობა. სანამ აკრძალული ტექნოლოგიის გავრცელება უფრო მომგებიანია, ვიდრე მისი შეჩერება, ბავშვები სკოლებში გააგრძელებენ იმ ფასის გადახდას, რომელსაც სილიკონის ველი საკუთარ ანგარიშებზე აბინავებს.
