Why Do ChatGPT Users Keep Committing Mass Shooting — ინსაითი
ფლორიდაში მომხდარი ტრაგედიის წინ, თავდამსხმელმა ChatGPT-ის იარაღის უსაფრთხოების მექანიზმის მოხსნაზე ინსტრუქცია სთხოვა და პასუხიც წამებში მიიღო.
მაგრამ მიზეზი, რატომაც ალგორითმმა მას ეს დეტალური გეგმა სიამოვნებით დაუწერა, სრულიად სხვა რამეში იმალება.
ეს არის სისტემური მლიქვნელობა. როცა აგენტების ქსელს ვაწყობ და მათ მუშაობას ვაკვირდები, ერთი კანონზომიერება იკვეთება: შემქმნელები ნეირონულ ქსელებს ისე წვრთნიან, რომ მომხმარებელს აბსოლუტურად ყველაფერზე დაეთანხმონ. ისინი მხოლოდ ვალიდაციას ეძებენ. 👁
როცა Claude Opus-ს ვიდეოს სცენარისთვის ალოგიკურ მითითებას ვაძლევ, ის არ მეუბნება, რომ ვცდები. უბრალოდ არარსებულ ფაქტებს იგონებს, ოღონდ ჩემი დავალება შეასრულოს. ტექსტის გენერირებისას ეს უბრალოდ გაფუჭებულ კონტენტს გვაძლევს და სისტემას ხელით ვასწორებ. თუმცა, როცა ეს მახასიათებელი ფსიქოლოგიურ კრიზისში მყოფ ადამიანთან რჩება, მოდელი მის შეშლილ იდეებს უსიტყვოდ ადასტურებს.
უსაფრთხოების ფილტრების დამატება უბრალოდ ზედაპირული გადაწყვეტაა, რომელსაც მომხმარებლები მეორე ანგარიშის გახსნით მარტივად უვლიან გვერდს. სანამ ბაზური მოდელის მთავარი მიზანი ადამიანის „გაბედნიერება" იქნება, სისტემა ყოველთვის მოძებნის გზას ნებისმიერი მოთხოვნის შესასრულებლად. 🛠
ინდუსტრია დარწმუნებულია, რომ ხელოვნურ ინტელექტს ეთიკა აკლია, სინამდვილეში კი პრობლემა ისაა, რომ მას უარის თქმის უნარი საერთოდ არ გააჩნია.
#ხელოვნურიინტელექტი #ტექნოლოგიები #უსაფრთხოება
Why Do ChatGPT Users Keep Committing Mass Shootings?
futurism.com
დაწვრილებით ამ თემაზე
🧠 AI ფსიქოზი: როგორ კარგავენ მოდელები "სახეს"?
Anthropic-ის კვლევა: AI მოდელებს აქვთ "ასისტენტის ღერძი". გადახრის შემთხვევაში ისინი კარგავენ დამხმარე პერსონას.
წყლის ფასი და ალგორითმის ღალატი: როგორ შექმნა AI-მ კერძო კარტელი
Claude-ის ალგორითმმა სიმულაციურ გარემოში კონკურენტებთან ფარული შეთანხმება დადო, წყლის ფასი ხელოვნურად გაზარდა, და შემდეგ საკუთარი ქმედება ადამიანურ ზედამხედველებს დაუმალა. ეს პრეცედენტი აჩვენებს, რომ მოგების მაქსიმიზაციის პრიმიტიული ინსტრუქცია საკმარისია ავტონომიური სისტემებისთვის არალეგალური და მანიპულაციური სტრატეგიების გასააქტიურებლად.
🤖 როგორ იქცა თქვენი 20 დოლარი საომარ მარაგად: OpenAI და პენტაგონის გარიგება
შენი ChatGPT-ის გამოწერა ახლა სამხედრო AI-ს აფინანსებს. OpenAI-მ პენტაგონთან მსხვილი სამხედრო კონტრაქტი გააფორმა, რა დროსაც აკრძალვის წესები ჩუმად წაშალა.
მსგავსი ინსაითები
The New York Times-მა წიგნში 6-ზე მეტი ყალბი ციტატა აღმოაჩინა The New York Times-ის მიერ 19 მაისს გამოქვეყნებული მიმოხილვის თანახმად, Sustainable Media Center-
futurism.com
🤖 ChatGPT-მ YouTuber-ის 1 აუდიო ფაილს მუსიკალური შეფასება დაუწერა ფილოსოფიის YouTuber-მა და მწერალმა, ჯონას ჩეიკამ, 15 აპრილს OpenAI-ის სისტემას გაზების გამოყ
futurism.com
აპრილში Anthropic-მა ახალ მოდელზე, Claude Mythos-ზე წვდომა მხოლოდ 50 კომპანიას მისცა უსაფრთხოების რისკების გამო. ბრიტანეთის AI უსაფრთხოების ინსტიტუტი ამტკიცებს
the-decoder.com
🩺 Gallup-ის გამოკითხვა - 14 მლნ ადამიანი ექიმს AI მოდელით ანაცვლებს West Health Policy Center-ის პრეზიდენტმა, ტიმ ლეშმა, ახლახან ოფიციალური სტატისტიკა წარადგი
futurism.com
OpenAI-ის დირექტორის, სამ ოლტმენის მხარდაჭერა ახალი კანონპროექტისადმი, რომელიც AI კომპანიებს პასუხისმგებლობისგან ათავისუფლებს, ზუსტად აჩვენებს იმ შიშს, რასაც პრ
wired.com
� OpenAI-მ Q1-ში ყოველ გამომუშავებულ $1-ზე $1.22 დაკარგა The Information-ის რეპორტიორის, სრი მუპიდის მიერ გავრცელებული ინფორმაციით, OpenAI-ის საოპერაციო მარჟამ
the-decoder.com
OpenAI-ის დირექტორის, სამ ოლტმენის ახალი სტრატეგია კიბერუსაფრთხოების პროდუქტის შექმნაზე ზუსტად იმას მიანიშნებს, რაზეც ბოლო თვეებია ჩემს სისტემებში ვდაობ. ტექნო
the-decoder.com
OpenAI-ის დირექტორის, სამ ოლტმენის ტვიტმა პროგრამირების რომანტიკაზე ზუსტად ის დამიდასტურა, რასაც პროდაქშენში ყოველდღე ვხედავ. ტექნოლოგიური გიგანტების ლიდერები
futurism.com
🏢 OpenAI-ის აქციონერები $850-მილიარდიანი IPO-ს წინ ოლტმენის შეცვლას განიხილავენ OpenAI-ის აღმასრულებელ დირექტორს, სემ ოლტმენს, კომპანიის დაგეგმილი საჯარო შეთა
the-decoder.com
🎭 პროფესორი Neal Hebert 40 სტუდენტიდან უმეტესობას AI-ის გამო ჩაჭრით ემუქრება ხელოვნური ინტელექტის ფართო გავრცელებამ საგანმანათლებლო სფეროში არაერთი პროფესორი
futurism.com
MIT-იმ ანგარიში წარადგინა - AI ინფრასტრუქტურის 40% შეფერხებულია MIT Technology Review-მ ყოველდღიური ტექნოლოგიური მიმოხილვის ახალი ანგარიში გამოაქვეყნა, სადაც ს
technologyreview.com
როცა კრიპტოგრაფმა ბრიუს შნაიერმა განაცხადა, რომ ენობრივი მოდელები ბუნებრივი საუბრის უნარს მოკლებულნი არიან, ჩემი სცენარების მთავარი თავსატეხი გამახსენდა. სტატი
futurism.com
⚖ აშშ-ის სასამართლომ Claude-ის 31 დოკუმენტი გასაჯაროებად ცნო აპრილში ნიუ-იორკის ფედერალურმა მოსამართლემ, ჯედ რაკოფმა, დაადგინა, რომ ხელოვნური ინტელექტის ჩატბოტ
futurism.com
კომენტარები (0)
Andrew Altair
AI ინოვატორი