Frontier AI Models Are Doing Something Absolutely — ინსაითი

მულტიმოდალური სისტემები უმაღლესი თავდაჯერებულობით ხსნიან იმას, რასაც რეალურად საერთოდ ვერ აღიქვამენ.

თუმცა მთავარი პრობლემა ის კი არ არის, რომ მოდელი ცდება, არამედ ის, თუ როგორ ოსტატურად მალავს ამ შეცდომას.

როცა Nano Banana 2-ს ზუსტ ვიზუალურ რეფერენსს ვაწვდი კლიენტის პროექტისთვის, ის ხშირად იდეალურად განათებულ, ულამაზეს კადრს მიბრუნებს. მაგრამ დეტალების შემოწმებისას აღმოაჩენ, რომ უკანა ფონზე კიბე არსად მიდის, ან პროდუქტის ჩრდილი სინათლის წყაროს ეწინააღმდეგება.

მოდელს სივრცული აღქმა არ აქვს. ის უბრალოდ პიქსელების განლაგების ალბათობას თვლის და ლოგიკურ სიცარიელეებს ესთეტიკით ავსებს. 🔬

მედიცინაში ეს შეუმჩნეველი სიმსივნეა, სარეკლამო ვიდეოში კი - ფიზიკის კანონების აბსურდული დარღვევა, რომელსაც მაყურებელი წამიერად ამჩნევს.

ყველას ჰგონია, რომ თანამედროვე კომპიუტერული ხედვა მართლა „ხედავს". სინამდვილეში, ის უბრალოდ კარგად დაზეპირებული ტექსტური შაბლონებით ხატავს ვიზუალურ ჰალუცინაციებს. 👁

ზუსტად ამიტომ, ჩემს სამუშაო პროცესში არცერთი ვიზუალური გენერაცია არ ქვეყნდება ადამიანის კონტროლის გარეშე - ხელოვნური ინტელექტის შეცდომა ყველაზე საშიში მაშინ არის, როცა ის ესთეტიკურად იდეალურად გამოიყურება.