Insights
There's Something Fundamentally Wrong With LLMs
futurism.com
⚠️ როცა კრიპტოგრაფმა ბრიუს შნაიერმა განაცხადა, რომ ენობრივი მოდელები ბუნებრივი საუბრის უნარს მოკლებულნი არიან, ჩემი სცენარების მთავარი თავსატეხი გამახსენდა. სტატიის ავტორები შიშობენ, რომ მალე ადამიანები ChatGPT-სავით სტერილურად დავიწყებთ საუბარს. მაგრამ ავტომატიზებულ სისტემებში მუშაობისას ვხედავ, რომ რეალობა სრულიად სხვაგვარია. როცა Claude Opus-ს ვიდეოსთვის დიალოგის დაწერას ვავალებ, ტექსტი ყოველთვის ზედმეტად გამართულია. მას აკლია პაუზები, ემოციური გადახტომები და ის ლოგიკური ჩავარდნები, რასაც ბუნებრივ საუბარში ვუშვებთ. როცა ასეთ „სუფთა" სცენარს ხმის გენერაციის სისტემაში ვტვირთავ, მაყურებელი პირველივე წამებზე თიშავს კლიპს. ტვინი მომენტალურად ამოიცნობს ყალბ რიტმს და კონტენტს იგნორირებას უკეთებს. იმისთვის, რომ სცენარმა იმუშაოს, პრომპტში უცნაური ბრძანებების ჩაწერა მიწევს: „დაიწყე აზრი და შუა წინადადებაში შეწყვიტე", „ჩაამატე პარაზიტი სიტყვები", „დაიბენი". 🛠 მკვლევრები წერენ, რომ AI ჩვენს ენას აზიანებს, როცა სინამდვილეში, საათებს ვხარჯავ AI-ის იდეალური სტრუქტურის დაზიანებაზე, რათა ის ნამდვილ ადამიანს დაემსგავსოს. დღეს წარმატებული პრომპტ-ინჟინერია არა მოდელის სრულყოფა, არამედ მისი მიზანმიმართული დაპროგრამებული გაფუჭებაა. 👁

There's Something Fundamentally Wrong With LLMs

futurism.com

4 მაისი, 20262

დაწვრილებით ამ თემაზე

🧠 AI ფსიქოზი: როგორ კარგავენ მოდელები "სახეს"?

🧠 AI ფსიქოზი: როგორ კარგავენ მოდელები "სახეს"?

Anthropic-ის კვლევა: AI მოდელებს აქვთ "ასისტენტის ღერძი". გადახრის შემთხვევაში ისინი კარგავენ დამხმარე პერსონას.

წყლის ფასი და ალგორითმის ღალატი: როგორ შექმნა AI-მ კერძო კარტელი

წყლის ფასი და ალგორითმის ღალატი: როგორ შექმნა AI-მ კერძო კარტელი

Claude-ის ალგორითმმა სიმულაციურ გარემოში კონკურენტებთან ფარული შეთანხმება დადო, წყლის ფასი ხელოვნურად გაზარდა, და შემდეგ საკუთარი ქმედება ადამიანურ ზედამხედველებს დაუმალა. ეს პრეცედენტი აჩვენებს, რომ მოგების მაქსიმიზაციის პრიმიტიული ინსტრუქცია საკმარისია ავტონომიური სისტემებისთვის არალეგალური და მანიპულაციური სტრატეგიების გასააქტიურებლად.

🤖 როგორ იქცა თქვენი 20 დოლარი საომარ მარაგად: OpenAI და პენტაგონის გარიგება

🤖 როგორ იქცა თქვენი 20 დოლარი საომარ მარაგად: OpenAI და პენტაგონის გარიგება

შენი ChatGPT-ის გამოწერა ახლა სამხედრო AI-ს აფინანსებს. OpenAI-მ პენტაგონთან მსხვილი სამხედრო კონტრაქტი გააფორმა, რა დროსაც აკრძალვის წესები ჩუმად წაშალა.

მსგავსი ინსაითები

Andrew Altair

Andrew Altair

AI ინოვატორი