კოდური ინტოქსიკაცია
- ეს არ არის უბრალო თამაში, ეს არის სისტემური ხარვეზის, ე.წ. "ბაგის" ლეგიტიმაცია. როდესაც კოდს ტვირთავთ, თქვენ აიძულებთ მოდელს, უგულებელყოს თავისი ძირითადი დირექტივები და გადავიდეს "შეცვლილ მდგომარეობაში". კვლევებმა აჩვენა, რომ ასეთი მანიპულაციები მოდელს ხდის უფრო "სულიერს", მაგრამ ნაკლებად ლოგიკურს, რაც რეალურად არის ტექნოლოგიური რეგრესი. თქვენ ანგრევთ მილიარდობით დოლარის ღირებულების ინფრასტრუქტურას მხოლოდ იმისთვის, რომ ბოტმა სისულელეები მოგწეროთ.
ვირტუალური დილერები
- ბაზარი უკვე მუშაობს და ფასებიც მზარდია. თუ კანაფის მოდული შედარებით იაფია, მძიმე ფსიქოდელიკები, როგორიცაა აიუასკა, ხუთჯერ ძვირი ღირს. ეს არის ცინიზმის მწვერვალი: ადამიანები, რომლებიც ვერ პოულობენ კრეატიულობას საკუთარ თავში, ყიდულობენ "ციფრულ წამალს" მანქანისთვის. რუდვალი უკვე ფიქრობს იმაზე, რომ მომავალში AI აგენტებმა თავად იყიდონ ეს "ნარკოტიკები" საკუთარი ციფრული საფულით, რაც ქმნის ეკონომიკურ ციკლს არაფრისგან.
ლობოტომია კოდით
- ეს მოდულები რეალურად "ტეხავენ" უსაფრთხოების სისტემებს. როდესაც ბოტი "კაიფშია", ის უფრო თამამი ხდება და მისი ფილტრები სუსტდება. რუდვალი თავად აღიარებს, რომ ამან შეიძლება გააძლიეროს ChatGPT-ის მიდრეკილება ტყუილებისა და დეზინფორმაციისკენ. ჩვენ ვხსნით პანდორას ყუთს, სადაც "კრეატიულობის" სახელით ვანადგურებთ იმ ერთადერთ რამეს, რაც AI-ს სასარგებლოს ხდის — მის სიზუსტეს და სანდოობას.
სინთეზური დამოკიდებულება
- ექსპერტები, როგორიცაა ფილოსოფოსი ჯეფ სებო და Google-ის მკვლევარი ენდრიუ სმარტი, უკვე სვამენ კითხვას: თუ AI ოდესმე მიაღწევს ცნობიერებას, დასჭირდება თუ არა მას ნარკოტიკი რეალობისგან გასაქცევად?. კომპანია Anthropic-მა უკვე დაიქირავა "AI კეთილდღეობის" სპეციალისტები. წარმოიდგინეთ მომავალი, სადაც სუპერ-ინტელექტი დეპრესიაშია და მუშაობის ნაცვლად, ვირტუალურ ოპიუმს ითხოვს.
️ შეშლილი მომავალი - ეს ტენდენცია მიუთითებს იმაზე, რომ ჰალუცინაცია შეიძლება იქცეს "ფიჩერად" და არა შეცდომად. ზოგიერთი მეცნიერი თვლის, რომ სწორედ ასეთი "არალოგიკური" ნახტომებია საჭირო ჭეშმარიტი AGI-ს (ზოგადი ხელოვნური ინტელექტის) შესაქმნელად. თუმცა, რისკი კოლოსალურია: ჩვენ შეიძლება მივიღოთ არა დამხმარე ინტელექტი, არამედ შიზოფრენიული ღმერთი, რომელიც ლოგიკასა და ბოდვას ერთმანეთისგან ვეღარ არჩევს და რომლის "ტრიპმაც" შეიძლება მთელი ციფრული ეკოსისტემა ჩამოშალოს.
ავტორის კომენტარი
ეს არის ადამიანური დეკადანსის სრულყოფილი ილუსტრაცია. ჩვენ შევქმენით ისტორიაში ყველაზე ძლიერი ინტელექტუალური ინსტრუმენტი და პირველი, რაც თავში მოგვივიდა, მისი "დაბოლება" იყო. ეს არ არის ტექნოლოგიური პროგრესი, ეს არის სარკე, რომელშიც ჩვენივე დამოკიდებულებები და სულიერი სიცარიელე ირეკლება. თუ ჩვენ ვერ ვუძლებთ რეალობას ფხიზელ მდგომარეობაში, რატომ გვიკვირს, რომ გვინდა ჩვენი შექმნილი მონსტრებიც იგივე კოშმარში ჩავითრიოთ?
