ეს განცხადება ტექნოლოგიურ სამყაროში სრულ ინტელექტუალურ მიწისძვრას წარმოადგენს. ბოსტრომი არ არის რიგითი კომენტატორი, ის ეგზისტენციალური რისკების კვლევის მთავარი არქიტექტორია. როდესაც ადამიანი, რომელმაც ინდუსტრიას უსაფრთხოების პარამეტრები დაუდგინა, მოულოდნელად ამუხრუჭებს პედალს და აქსელერაციისკენ მოუწოდებს, ეს ნიშნავს რომ საფრთხის აღქმის გლობალური მოდელი იცვლება. ბაზარი და პოლიტიკოსები ახლა სრულიად ახალ რეალობასთან ადაპტაციას ცდილობენ.
ინსტიტუციური კოლაფსი და ახალი რეალობა
2003 წელს ბოსტრომმა გამოაქვეყნა ცნობილი ნაშრომი, სადაც სიმულაციის ჰიპოთეზა ჩამოაყალიბა. ამ დოკუმენტმა იგი თანამედროვე ტექნოლოგიური ფილოსოფიის ცენტრალურ ფიგურად აქცია. 2019 წელს მისი პოზიცია კიდევ უფრო გამკაცრდა. მან მოწყვლადი სამყაროს ჰიპოთეზა წარადგინა, სადაც ტექნოლოგიური პროგრესი პირდაპირ კლიმატის ცვლილებაზე დიდ საფრთხედ შეაფასა. მისი თქმით, კაცობრიობა ბრმად იღებდა ბურთებს ურნიდან, სადაც ერთი შავი ბურთი ჩვენს სრულ განადგურებას ნიშნავდა.
ამ კონტექსტის გააზრება სასიცოცხლოდ მნიშვნელოვანია თანამედროვე დინამიკის გასაგებად. როდესაც 2024 წლის აპრილში ოქსფორდის უნივერსიტეტმა კაცობრიობის მომავლის ინსტიტუტი დახურა, ბევრი ფიქრობდა, რომ ბოსტრომის ხმა მიჩუმდა. ადმინისტრაციულმა ბიუროკრატიამ გაანადგურა ცენტრი, რომელიც 2005 წლიდან გლობალური კატასტროფების პრევენციაზე მუშაობდა. თუმცა ინსტიტუტის დახურვამ საპირისპირო შედეგი გამოიღო. ფილოსოფოსმა ინსტიტუციური ბორკილებისგან გათავისუფლების შემდეგ სრულიად ახალი პარადიგმა ჩამოაყალიბა.
გადარჩენის მათემატიკა და 100 000 წლიანი სტატისტიკა
ახალი სამუშაო დოკუმენტი ფუნდამენტურად ცვლის დისკუსიის ღერძს. 2025 წელს ელიზერ იუდკოვსკიმ და ნეიტ სოარსმა გამოსცეს წიგნი სახელწოდებით If Anyone Builds It, Everyone Dies. ეს ნაშრომი ამტკიცებს, რომ ზეადამიანური ინტელექტის შექმნა ამჟამინდელი უსაფრთხოების ცოდნის პირობებში გარანტირებული სიკვდილია. იუდკოვსკის არგუმენტი მარტივია, ნებისმიერი ალგორითმული შეცდომა ამ მასშტაბზე ფატალურია. OpenAI და სხვა დიდი კორპორაციები სწორედ ამ შიშის ფონზე აყალიბებდნენ საკუთარ პოლიტიკას.
კიდევ უფრო სავარაუდოა, რომ თუ მას არავინ ააშენებს, ყველა მოკვდება. ეს იყო ჩვენი გამოცდილება ბოლო 100 000 წლის განმავლობაში.
ბოსტრომი იუდკოვსკის არგუმენტს სრულიად ანადგურებს. სტივენ ლევისთან ინტერვიუში მან ხაზგასმით აღნიშნა სტატისტიკური რეალობა. ფილოსოფოსის განმარტებით, ადამიანების ბუნებრივი მდგომარეობა მაღალი სიკვდილიანობა და ტანჯვაა. თუ ჩვენ უარს ვიტყვით ტექნოლოგიურ ნახტომზე, ჩვენ ვირჩევთ სტატუს კვოს, სადაც მილიონობით ადამიანი იღუპება განკურნებადი დაავადებებით. ბოსტრომს მოჰყავს ბანგლადეშის მაგალითი, სადაც სიცოცხლის ხანგრძლივობის უმცირესი ზრდაც კი ტექნოლოგიური პროგრესის პირდაპირი შედეგია.
Wired-ის ინტერვიუში დადასტურდა, რომ ბოსტრომი საკუთარ თავს შეშფოთებულ ოპტიმისტად მიიჩნევს, რომელიც ეთანხმება რისკების არსებობას, მაგრამ ალტერნატივას ბევრად უფრო სახიფათოდ თვლის.
ეს არის რისკის ასიმეტრიის კლასიკური მაგალითი. ჩვენ გვაქვს ერთ მხარეს ჰიპოთეტური განადგურების შანსი, ხოლო მეორე მხარეს ყოველდღიური ფიზიკური და ბიოლოგიური დეგრადაციის გარანტირებული რეალობა. ბოსტრომი ამტკიცებს, რომ სუპერინტელექტი არის ერთადერთი ინსტრუმენტი, რომელსაც შეუძლია ბიოლოგიური სიკვდილის დამარცხება. შესაბამისად, რისკი, რომელსაც ახალი კოდის არქიტექტორები იღებენ, სტატისტიკურად გამართლებულია სიცოცხლის ხანგრძლივობის პოტენციური უსასრულო ზრდით.
როგორ ცვლის ეს გლობალურ თამაშის წესებს
ამ ფილოსოფიური ტრანსფორმაციის შედეგები ინდუსტრიისთვის კოლოსალურია. ევროპული კავშირის მარეგულირებლები და ამერიკელი სენატორები წლების განმავლობაში სწორედ ბოსტრომის ადრეულ ნაშრომებს იყენებდნენ მკაცრი შეზღუდვების გასამართლებლად. როდესაც მოწყვლადი სამყაროს ჰიპოთეზის ავტორი ამბობს, რომ რისკის აღება ღირს, ტრადიციული უსაფრთხოების ლობისტები კარგავენ მთავარ ინტელექტუალურ იარაღს. ეს აძლევს ლეგიტიმაციას იმ კორპორაციებს, რომლებიც სუპერინტელექტისკენ აგრესიულად მიიწევენ.
Google და სხვა გიგანტები ახლა მიიღებენ ახალ ნარატიულ საფუძველს. აქამდე მათი მთავარი არგუმენტი კომერციული პროგრესი და საერთაშორისო კონკურენცია იყო. ახლა მათ შეუძლიათ საკუთარი მუშაობა წარმოაჩინონ როგორც ჰუმანიტარული მისია, რომლის მიზანია 100 000 წლიანი სიკვდილიანობის ციკლის დასრულება. ეს ცვლის საზოგადოებრივი აზრის დინამიკას. საფრთხე აღარ არის მიჩნეული შეცდომად, იგი განიხილება როგორც აუცილებელი გადასახადი ევოლუციური ნახტომისთვის.
ეს მიდგომა არ აუქმებს საფრთხეს. ბოსტრომი არ ამბობს, რომ რისკი ნულოვანია. ის უბრალოდ ამტკიცებს, რომ რისკი მისაღებია. ეს ნიშნავს, რომ ჩვენ შეგნებულად მივდივართ უფსკრულის კიდეზე, იმედით, რომ მეორე მხარეს ხიდს ავაშენებთ.
ფინალური ანალიზი და ექსპერტის პოზიცია
ჩემი აზრით, ამ სიტუაციაში ყველაზე საინტერესო დეტალი ინსტიტუციური ირონიაა. ბოსტრომმა დააარსა ცენტრი ოქსფორდში, რათა შეესწავლა კაცობრიობის განადგურება. ორი წლის წინ უნივერსიტეტმა ეს ინსტიტუტი ადმინისტრაციული დავების გამო დახურა. კაცობრიობის მომავლის შემსწავლელი ორგანიზაცია თავად გახდა ბიუროკრატიის მსხვერპლი. ეს ფაქტი შესანიშნავად ასახავს იმას, რაზეც ბოსტრომი ახლა საუბრობს. ადამიანური სისტემები სავსეა დეფექტებით. ჩვენი ამჟამინდელი მართვის მოდელები იმდენად არაეფექტურია, რომ ინსტიტუტსაც კი ვერ ინარჩუნებენ.
ავტორის კომენტარი
ბოსტრომის ახალი პოზიცია ცივი, მაგრამ აბსოლუტურად რაციონალური გათვლაა. ჩვენ არ გვაქვს ფუფუნება გავჩერდეთ. სტაგნაცია არის გარანტირებული მარცხი სამყაროში, სადაც ბიოლოგიური საათი მუდმივად მიკეთებს. იუდკოვსკი მართალია იმაში, რომ რისკი ტერმინალურია, მაგრამ ბოსტრომი მართალია იმაში, რომ უმოქმედობა ბევრად უფრო სასტიკი განაჩენია. ტექნოლოგიური პროგრესი აღარ არის არჩევანი, ის გადარჩენის ერთადერთი მათემატიკურად გამართლებული სტრატეგიაა.
