☠️ Google-ის AI: ექიმი, რომელიც გკლავთ

თუ თქვენს ჯანმრთელობას Google-ს ანდობთ, დროა ანდერძიც დაწეროთ — საძიებო გიგანტმა სასწრაფოდ წაშალა სამედიცინო AI მიმოხილვები მას შემდეგ, რაც გაირკვა, რომ ისინი მომაკვდინებელ რჩევებს იძლეოდნენ. Guardian-ის სკანდალურმა გამოძიებამ Google კუთხეში მიიმწყვდია. კომპანიამ, რომელიც მსოფლიო ინფორმაციის 90%-ს აკონტროლებს, აღიარა, რომ მათი "AI Overviews" ფუნქცია მომხმარებლებს სახიფათო სამედიცინო ინფორმაციას აწვდიდა. 2 იანვარს გამოქვეყნებული ანგარიშის შემდეგ, Google-მა ჩუმად გააქრო პასუხები ისეთ მოთხოვნებზე, როგორიცაა "ღვიძლის ფუნქციური ტესტების ნორმები". რატომ? იმიტომ რომ ხელოვნური ინტელექტი პაციენტებს არწმუნებდა, რომ ისინი ჯანმრთელები იყვნენ, მაშინ როცა რეალურად სასწრაფო სამედიცინო ჩარევა ესაჭიროებოდათ. ბრიტანეთის ღვიძლის ფონდმა ამას "საგანგაშო და საშიში" უწოდა. ტექნიკური პრობლემა ფუნდამენტურია: Google-ის AI ყრიდა ციფრების გრძელ სიას ყოველგვარი კონტექსტის გარეშე. მან არ იცოდა, რომ პაციენტის ასაკი, სქესი და ეთნიკური წარმომავლობა კრიტიკულად ცვლის "ნორმის" განმარტებას. კიდევ უფრო უარესი — ალგორითმი პანკრეასის კიბოს მქონე პაციენტებს ურჩევდა ცხიმიანი საკვების მიღებას, რაც სამედიცინო პროტოკოლის პირდაპირი დარღვევაა და პაციენტის მდგომარეობას კატასტროფულად ამძიმებს. Google ამტკიცებს, რომ "მუშაობს გაუმჯობესებაზე", მაგრამ ექსპერტებმა აღმოაჩინეს, რომ კითხვის ოდნავ შეცვლით (მაგალითად "lft reference range") AI ისევ იგივე სისულელეს აგენერირებს. ეს არის "Whac-A-Mole"-ის თამაში ადამიანის სიცოცხლით.