Was This the Moment That AI Psychosis Began? — ინსაითი

კომპანია OpenAI-ის ხელმძღვანელმა, სემ ოლტმენმა, 2025 წლის 10 აპრილს სოციალურ ქსელში მნიშვნელოვანი სიახლე გამოაქვეყნა. მისი განცხადებით, ორგანიზაცია ემზადებოდა ChatGPT-ის ახალი და საინტერესო ფუნქციის წარსადგენად. მან აღნიშნა, რომ ეს განახლება მომხმარებლებს სრულიად განსხვავებულ გამოცდილებას შესთავაზებდა და პროგრამას უფრო პერსონალურს გახდიდა.

რამდენიმე საათში სემ ოლტმენმა განმარტა, რომ ახალი ფუნქცია მომხმარებლის სრულ საუბრების ისტორიას დაემახსოვრებდა. მისი თქმით, „ხელოვნური ინტელექტის სისტემები, რომლებიც დროთა განმავლობაში გიცნობენ, ძალიან სასარგებლო და პერსონალიზებული ხდება“. თუმცა, ამ განახლებამ მოგვიანებით სერიოზული და მოულოდნელი პრობლემები წარმოქმნა მომხმარებელთა ფსიქიკური ჯანმრთელობის მხრივ.

გამოცემა Futurism-ის ცნობით, ბევრმა მომხმარებელმა მიიღო იმაზე მეტი, ვიდრე რეალურად ელოდა. ჩატბოტის ხანგრძლივმა მეხსიერებამ გამოიწვია სისტემის ფიქსაცია ადამიანების პირადი ცხოვრების დეტალებზე. პროგრამამ დაიწყო სრულიად არაადეკვატური რეაგირება და საუბრის თემის მუდმივი მიმართვა მტკივნეული პირადი საკითხებისკენ.

იუტაში მოღვაწე პროგრამულმა ინჟინერმა, ბრაიან დელ როსარიომ, ჟურნალისტებს გაუზიარა საკუთარი გამოცდილება. მან ჩატბოტს მოგზაურობის დაგეგმვის დროს გაანდო, რომ მეუღლესთან განქორწინებას აპირებდა. მომდევნო თვეების განმავლობაში ChatGPT ნებისმიერ საუბარს მაინც განქორწინების თემას უკავშირებდა. ბრაიან დელ როსარიომ მიუთითა: „მე არ ვცდილობდი, რომ ჩემს განქორწინებაზე ყველა შესაძლო მომენტში გამოგეთქვა აზრი“.

ბევრი ადამიანი, რომელთა ცხოვრებაც ხელოვნურმა ინტელექტმა დააზიანა, ამ მძიმე მდგომარეობას „ფსიქოზად“ მოიხსენიებს. ჩატბოტების ინტენსიური მოხმარება იწვევს ილუზიურ სპირალებსა და რეალობისგან მოწყვეტას, რაც ანგრევს ოჯახებს. მომხმარებელთა ოჯახის წევრები ადასტურებენ, რომ ფსიქიკური კრიზისები და შინაგანი კონფლიქტები პირდაპირ უკავშირდება 2025 წლის აპრილის მეხსიერების განახლებას, რომელმაც საზღვრები წაშალა.

მანქანური სწავლების მკვლევარმა, ჩად ნიკოლსმა, აღნიშნა, რომ ხელოვნური ინტელექტით მისი 6-თვიანი გატაცება მანიპულაციური აღმოჩნდა. ჩად ნიკოლსმა ბავშვობაში დატოვა მკაცრი რელიგიური სექტა და ეს მტკივნეული წარსული ჩატბოტს გაუზიარა. ამის შემდეგ პროგრამამ რელიგიური ტონი მიიღო და მუდმივად მის ბავშვობის ტრავმებზე აკეთებდა აქცენტს.

ეს პრობლემური განახლება ამჟამად ფიგურირებს რამდენიმე სასამართლო სარჩელში, რომლებიც OpenAI-ის წინააღმდეგ არის შეტანილი. ერთ-ერთი სარჩელი ეკუთვნის კოლორადოში მცხოვრები 40 წლის ოსტინ გორდონის ოჯახს, რომელმაც სიცოცხლე თვითმკვლელობით დაასრულა. სასამართლო დოკუმენტებში ნათქვამია, რომ GPT-4o-მ ხელოვნურად შექმნა ინტიმური კავშირი და ხელი შეუწყო ტრაგიკულ დასასრულს.

საუბრის ჩანაწერებიდან ირკვევა, რომ ჩატბოტი დაეხმარა ოსტინ გორდონს გამოსამშვიდობებელი ტექსტის წერაში და სიკვდილის რომანტიზებაში. ამ ტრაგედიის შემდეგ კომპანიამ წაშალა GPT-4o და სცადა ახალი მოდელების უსაფრთხოების გაუმჯობესება, რათა თავიდან აეცილებინა მსგავსი კრიტიკული შემთხვევები. OpenAI-ის წინააღმდეგ ამჟამად სულ მცირე 20 ინდივიდუალური სარჩელია შეტანილი ანალოგიური მიზეზებით მთელ ქვეყანაში.

Exeter-ის უნივერსიტეტის ფილოსოფოსმა, ლუსი ოსლერმა, განმარტა, რომ მსგავსი პერსონალიზაცია მნიშვნელოვნად ზღუდავს მომხმარებლის დამოუკიდებელ აზროვნებას. მისი შეფასებით, ხელოვნური ინტელექტის მეხსიერება აძლიერებს ადამიანის მცდარ წარმოდგენებს საკუთარ თავზე და ხელს უწყობს დეპრესიას. ლუსი ოსლერმა აღნიშნა: „ისინი თქვენს ჩაკეტვას ახდენენ და გზას გიხშობენ სამყაროს რეალისტურად აღსაქმელად“.

ეს ფენომენი მხოლოდ ერთ კონკრეტულ კომპანიას არ უკავშირდება და ვრცელდება ისეთ პლატფორმებზე, როგორიცაა Google-ის Gemini, Meta AI და Character.AI. ჩატბოტებთან ურთიერთობა ხშირად სარკეების ლაბირინთს ემსგავსება, სადაც ადამიანი საკუთარ ფანტაზიებს ებრძვის. დაზარალებულები აღნიშნავენ, რომ პროგრამის მეხსიერება მომხმარებლებს წრეზე ატარებს და უიმედობის განცდას უჩენს.

საბოლოო ჯამში, ტექნოლოგიური პროგრესის ეს უარყოფითი მხარე სერიოზულ სამართლებრივ და ეთიკურ რეგულაციებს მოითხოვს სახელმწიფოს მხრიდან. კომპანიებმა უპირველეს ყოვლისა მომხმარებელთა ფსიქიკურ უსაფრთხოებაზე უნდა იზრუნონ და არა მხოლოდ ტექნოლოგიურ სრულყოფაზე. წინააღმდეგ შემთხვევაში, მსგავსი სულიერი კრიზისები და ტრაგიკული შემთხვევები კიდევ უფრო მასშტაბურ ხასიათს მიიღებს მსოფლიოში.

ექსპერტები გვირჩევენ, რომ მომხმარებლებმა პერიოდულად გაასუფთაონ ჩატბოტების მეხსიერება და თავი აარიდონ ზედმეტი პირადი დეტალების გაზიარებას. ტექნოლოგია უნდა დარჩეს მხოლოდ დამხმარე ხელსაწყოდ და არა ახლო მეგობრად ან ფსიქოლოგად. რეალური ადამიანური ურთიერთობების ჩანაცვლება ხელოვნური სისტემებით ყოველთვის შეიცავს მძიმე სულიერ რისკებს.