AI models would rather guess than ask for help, re — ინსაითი
ტექნოლოგიური გიგანტები გვპირდებიან, რომ მათ მოდელებს „თვალები" აქვთ და სურათს ისევე აღიქვამენ, როგორც ჩვენ.
მაგრამ როცა Claude-ის მეშვეობით ვიდეო სკრიპტების ავტომატიზაციას ვაკეთებ, რეალობა სრულიად სხვაგვარია. ხელოვნური ინტელექტი კი არ „ხედავს", არამედ აცნობიერებს ალბათობებს. თუ მოდელს სთხოვთ აღწეროს ვიზუალი, სადაც რაღაც აკლია, ის უბრალოდ გამოიგონებს მას, რადგან მისი ნეირონული ქსელი ასეა დაპროგრამებული - ყოველთვის გასცეს პასუხი.
ეს არ არის უბრალო შეცდომა. ეს არის სისტემური ჰალუცინაცია, რომელიც მაშინ იჩენს თავს, როცა მოდელი საკუთარ უცოდინარობას ვერ აღიარებს. ჩემს სისტემაში, სადაც 30 აგენტი მუშაობს, ერთი ასეთი „გამოგონილი" დეტალი მთელ ჯაჭვს შლის: სცენარი აცდება ვიზუალს, მუსიკა აცდება განწყობას და საბოლოო ვიდეო ნაგავია. 🛠
პრობლემა იმაში კი არ არის, რომ AI ცდება. პრობლემა ისაა, რომ ის ამ შეცდომას თავდაჯერებული ტონით გვაწვდის.
მოდელი, რომელიც ამბობს „არ ვიცი", ბევრად უფრო ღირებულია, ვიდრე მოდელი, რომელიც ყველაფერს „ხედავს". 👁
AI models would rather guess than ask for help, researchers find
the-decoder.com
დაწვრილებით ამ თემაზე
🧠 AI ფსიქოზი: როგორ კარგავენ მოდელები "სახეს"?
Anthropic-ის კვლევა: AI მოდელებს აქვთ "ასისტენტის ღერძი". გადახრის შემთხვევაში ისინი კარგავენ დამხმარე პერსონას.
ქიმიური აღიარება: რატომ დაარღვია Anthropic-მა თავისივე უსაფრთხოების პირობა
Anthropic-მა გამოაქვეყნა უსაფრთხოების ანგარიში, სადაც აღიარებს, რომ ახალ მოდელს გააჩნია „მომატებული რისკი“ ქიმიური იარაღის შექმნაში დახმარების კუთხით, თუმცა კომპანიამ ის მაინც გამოუშვა. დარიო ამოდეი ასევე აღიარებს, რომ არ იცის, არის თუ არა მოდელი ცნობიერი. გთავაზობთ სრულ ანალიზს კვირის შესახებ, როდესაც უსაფრთხოება მოკვდა.
კლოდის სისხლიანი დებიუტი: რატომ დაუშვა პენტაგონმა 83 მსხვერპლი ვენესუელაში
83 დაღუპული კარაკასში. ეს არ არის უბრალოდ სტატისტიკა; ეს არის ახალი რეალობის დასაწყისი, სადაც 'უსაფრთხო' და 'ეთიკურმა' ხელოვნურმა ინტელექტმა — Claude-მა — პირდაპირ მიიღო მონაწილეობა სამხედრო ოპერაციაში. პენტაგონმა, Palantir-ის დახმარებით, Anthropic-ის მოდელი გამოიყენა ვენესუელაში რეიდის დასაგეგმად. ეს სტატია ანგრევს მითს 'კეთილი AI-ს' შესახებ და გვიჩვენებს, როგორ გადაიქცა სილიკონ ველის ყველაზე პრინციპული კომპანია ომის მანქანის ნაწილად სულ რაღაც ერთ კვირაში, $30 მილიარდიანი ინვესტიციის შემდეგ.
მსგავსი ინსაითები
ხელოვნური ინტელექტის მარკეტინგული სააგენტოს, MedVi-ს დამფუძნებლის, რაჰულ ჩაჰარის ბოლო განცხადება ფარმაცევტულ ინდუსტრიაში AI-ს გამოყენებაზე ზუსტად იმ სისტემურ შე
futurism.com
🤖 ჩინურმა ოჯახმა გარდაცვლილი შვილის 1 ციფრული კლონი შექმნა ჩინეთში მცხოვრებმა ოჯახმა ავტოავარიაში გარდაცვლილი შვილის ხელოვნური ინტელექტის მოდელი შექმნა, რათა
futurism.com
გუშინდელი განცხადება ოქსფორდის უნივერსიტეტიდან, რომ მათმა ახალმა AI ინსტრუმენტმა გულის უკმარისობის ამოცნობა ისწავლა, მთავარ ტექნოლოგიურ ილუზიას კვებავს. მედია
theguardian.com
� MIT Technology Review-ს მკვლევარების ახალი ანგარიში კოსმოსურ სერვერებზე ზუსტად ხსნის იმ პარადოქსს, რასაც პროდაქშენში ყოველდღე ვხედავ. ყველა ხელოვნური ინტელექ
technologyreview.com
კომენტარები (0)
Andrew Altair
AI ინოვატორი