AI-hallucinated citations are creeping into papers — ინსაითი

🧪 მკვლევრებმა სამედიცინო ნაშრომებში AI-ის 28 ყალბი ციტატა იპოვეს სამეცნიერო ჟურნალებში გამოქვეყნებულ ნაშრომებში, რომლებიც კლინიკური გაიდლაინების შემუშავებისთვის გამოიყენება, ხელოვნური ინტელექტის მიერ გენერირებული ყალბი ციტატები აღმოაჩინეს. საერთაშორისო მკვლევართა ჯგუფმა განგაში მას შემდეგ ატეხა, რაც კვლევის წამყვანმა ავტორმა, დოქტორმა რეიჩელ სმარტმა, მიმდინარე კვირას დააფიქსირა ტენდენცია, როდესაც ავტორები სტატიების წერისას გადაუმოწმებელ AI ინსტრუმენტებს იყენებენ. ანალიზის მიხედვით, კონკრეტულ სამედიცინო ნაშრომებში იდენტიფიცირებულია მინიმუმ 28 მოგონილი ბიბლიოგრაფიული მითითება, რომლებიც რეალურად არ არსებობს. მსგავსი ყალბი მონაცემები უკვე მოხვდა რეცენზირებად სამეცნიერო ჟურნალებში, რომელთა ბაზაზეც შემდგომში ექიმებისთვის განკუთვნილი ოფიციალური კლინიკური რეკომენდაციები იქმნება. შედარებისთვის, წინა წლებში ხელოვნური ინტელექტის ჰალუცინაციები ძირითადად სტუდენტურ ესეებში ვლინდებოდა, ახლა კი ამ ფენომენმა მაღალი დონის პროფესიულ სამედიცინო ლიტერატურაში გადაინაცვლა, სადაც შემოწმების ფილტრი ბევრად მკაცრი უნდა იყოს. კომპანიებში, რომლებიც ამ მოდელებს ავითარებენ, აღიარებენ, რომ მსგავსი შეცდომების აღმოფხვრა სრულად ჯერ კიდევ შეუძლებელია. აღმოჩენილი ფაქტები მნიშვნელოვნად ზრდის არასწორი სამედიცინო გადაწყვეტილებების მიღების რისკს, რადგან კლინიკური გაიდლაინები პირდაპირ განსაზღვრავს პაციენტების მკურნალობის მეთოდებსა და ჯანმრთელობის უსაფრთხოებას. ფალსიფიცირებული წყაროების გავრცელება სამეცნიერო სივრცეში ეჭვქვეშ აყენებს რეცენზირების არსებულ ტრადიციულ სისტემას და აიძულებს სამედიცინო საზოგადოებას, შეიმუშაოს ახალი ფილტრები ხელოვნური ინტელექტის მიერ გენერირებული ტექსტების გამოსავლენად.