Andrew Altair

Insights

მოკლე ანალიტიკა და კომენტარები AI სამყაროდან

English →
All#ai#ai-agents#big-tech#tech-industry#anthropic#autonomous-systems#openai#startup#automation#google#claude#robotics#microsoft#Anthropic#meta
თეთრი სახლის ყოფილი პრესმდივანი AI სამთო სტარტაპ NRED-ს დაუკავშირეს
andrewaltair.ge

⛏️ თეთრი სახლის ყოფილი პრესმდივანი AI სამთო სტარტაპ NRED-ს დაუკავშირეს

გამოცემა WIRED-მა 2026 წლის 16 ოქტომბერს გამოაქვეყნა ჟურნალისტური გამოძიება, რომელიც თეთრი სახლის ყოფილ პრესმდივან კეიტი ზაქარიასა და ხელოვნურ ინტელექტზე მომუშავე იშვიათი ლითონების მომპოვებელ სტარტაპ NRED Intelligent Mining-ს შორის არსებულ უცნაურ კავშირს ეხება. ზაქარია, რომელიც თანამდებობიდან დანიშვნიდან სულ რაღაც 5 დღეში გაათავისუფლეს, მანამდეც საკუთარი ბიოგრაფიის დეტალების ახსნას ცდილობდა. კანადის ქალაქ ვანკუვერში რეგისტრირებულმა კომპანიამ, რომელიც ადრე NovaRed Mining-ის სახელით ოპერირებდა, 2026 წლის 24 ივნისს ოფიციალური პრესრელიზი გაავრცელა. დოკუმენტში აღნიშნული იყო, რომ ზაქარია, რომელმაც აშშ-ის შინაგან საქმეთა დეპარტამენტის სპიკერის პოსტი 2 თვით ადრე დატოვა, მრჩეველთა საბჭოს უერთდებოდა ყოფილ მდივან კრისტი ნოემთან ერთად. პრესრელიზის მიხედვით, ზაქარიას დირექტორთა საბჭოსთვის სტრატეგიული კონსულტაცია უნდა გაეწია როგორც წიაღისეულის კვლევით პროექტებში, ისე ხელოვნური ინტელექტის ახალ ინიციატივებში. თუმცა, როდესაც WIRED-ის ჟურნალისტებმა მას ჰკითხეს, ირიცხებოდა თუ არა კვლავ საბჭოში, მან განაცხადა: „ეს ყალბი ინფორმაცია იყო,“ - და რედაქცია პიარ-სპეციალისტ სემ ამსტერდამთან გადაამისამართა. სემ ამსტერდამმა, რომლის ძმაც NRED-ის ვებსაიტზე მენეჯმენტის წევრად არის მითითებული, დაადასტურა, რომ განცხადება ზაქარიას თანხმობის გარეშე გამოქვეყნდა. მისი თქმით, კომპანიასთან გარკვეული მოლაპარაკებები ნამდვილად მიმდინარეობდა, მაგრამ შეთანხმება ოფიციალურად არასდროს გაფორმებულა. იგივე პოზიცია გაიზიარა NRED-ის ტექნიკურმა დირექტორმა და მომავალმა აღმასრულებელმა დირექტორმა ვალენტინ საიტარლიმ, რომელმაც აღნიშნა, რომ თანამშრომლობა პრაქტიკაში ვერ შედგა. „ეს ჰგავდა სპორტდარბაზში ჩაწერას ისე, რომ სავარჯიშოდ არასდროს მიხვიდე. ჩვენ სრულად გადავდივართ რობოტიკასა და ხელოვნურ ინტელექტზე,“ - განმარტა საიტარლიმ გამოცემასთან ინტერვიუში. მიუხედავად ამ განმარტებებისა, პრესრელიზი ზაქარიას დანიშვნის შესახებ პარასკევის მდგომარეობით კვლავ იძებნებოდა NRED-ის ოფიციალურ ვებსაიტზე, ხოლო ვებ-არქივის მონაცემებით, ის მინიმუმ ივლისამდე კომპანიის მენეჯმენტის სიაში ფიგურირებდა. საიტარლიმ ჟურნალისტებს განუცხადა, რომ პორტალი ამჟამად განახლების პროცესშია. თავად კომპანია NovaRed-ის გარშემო ხმაური ჯერ კიდევ მაშინ ატყდა, როდესაც ზაქარიას წარდგენამდე 8 დღით ადრე საბჭოში კრისტი ნოემის მიწვევა გასაჯაროვდა, რამაც კანადაში მწვავე პროტესტი გამოიწვია ნოემის მიერ ქვეყნის 51-ე შტატად მოხსენიების გამო. გამოცემა The Globe and Mail-ი წერდა, რომ კომპანიას შემოსავალი საერთოდ არ ჰქონდა და იანვარში მის ანგარიშზე მხოლოდ 65689 დოლარი ირიცხებოდა. ფინანსური ანგარიშგების თანახმად, აღნიშნული 65689 დოლარი საკმარისი არ იყო მომდევნო 12 თვის საოპერაციო ხარჯების დასაფარად. ამის მიუხედავად, გაზაფხულიდან კომპანიამ მრჩეველთა საბჭო გეოლოგებისა და სამთო ინჟინრების ნაცვლად თავდაცვის სექტორთან, პოლიტიკურ წრეებსა და შოუბიზნესთან დაკავშირებული პირებით დააკომპლექტა. 2026 წლის ოქტომბრის დასაწყისში NRED-მა გამოაცხადა, რომ უარს ამბობს თავის ძირითად სპილენძისა და ოქროს მოპოვების პროექტ Wilmac-ზე და მთელ რესურსს მიმართავს პლატფორმა MetalCore-ის კომერციალიზაციაზე. კომპანიის აღწერით, ეს არის ხელოვნურ ინტელექტზე დაფუძნებული მინერალების ძიების სისტემა, ხოლო საიტარლი მომავალში მარსსა და მთვარეზე წიაღისეულის მოპოვებაზეც საუბრობს. საბჭოს კიდევ ერთმა ყოფილმა წევრმა, აშშ-ის სამხედრო-საზღვაო ძალების გადამდგარმა მეთაურმა ფილ ერმა WIRED-თან სატელეფონო საუბრისას აღნიშნა, რომ სამთო საქმის არაფერი გაეგებოდა, თუმცა კრიტიკული მინერალების მნიშვნელობას აცნობიერებდა. მან პოსტი დანიშვნიდან 2 თვეში, კრისტი ნოემისა და ზაქარიას მოულოდნელი წარდგენის შემდეგ პროტესტის ნიშნად დატოვა. პარალელურად, თეთრ სახლში მუშაობის ბოლო საათებში ზაქარია WIRED-ის რეპორტიორებს თავისი წარსულის სხვა ეპიზოდების, მათ შორის ქსელური მარკეტინგის კომპანია Beachbody-სთან კავშირისა და კალიფორნიის ადვოკატთა გამოცდის გარშემო არსებული კითხვების გარკვევას სთავაზობდა. გათავისუფლების შემდეგ მან დამატებით კომენტარზე უარი თქვა. ეს ისტორია ნათლად აჩვენებს, თუ როგორ იყენებენ მცირე კაპიტალიზაციის მქონე რესურსების მომპოვებელი კომპანიები ხელოვნური ინტელექტის ტერმინოლოგიასა და ცნობილ პოლიტიკურ სახელებს ინვესტორების ყურადღების მისაზიდად. ტექნიკური ექსპერტიზისა და რეალური ფინანსური რეზერვების გარეშე მსგავსი რებრენდინგი ხშირად მხოლოდ მედია-ხმაურის შექმნას ემსახურება.

#Katie-Zacharia#NRED-Intelligent-Mining#NovaRed
თეთრი სახლის ყოფილი პრესმდივანი AI სამთო სტარტაპ NRED-ს დაუკავშირეს
17 ოქტ 20260
It’s Frighteningly Easy to Jailbreak Some Frontier AI Models
wired.com

⚠️ ახალმა ტესტმა 4 წამყვანი AI კომპანიის მოდელების უსაფრთხოების სისუსტე გამოავლინა

ჟურნალ WIRED-ის ჟურნალისტმა უილ ნაიტმა გამოაქვეყნა ექსპერიმენტის შედეგები, სადაც ახალმა ავტომატიზებულმა ინსტრუმენტმა 4 წამყვანი ტექნოლოგიური კომპანიის AI მოდელების უსაფრთხოების ფილტრების გვერდის ავლით გატეხვა შეძლო. 2026 წლის 29 ივლისს გამოქვეყნებული ანგარიში OpenAI-ს, Anthropic-ს, Google-სა და ილონ მასკის xAI-ს ეხება. ექსპერიმენტმა აჩვენა, რომ არსებული ბარიერები არასაკმარისია. ტესტირებისას გამოიყენეს სპეციალური სისტემა, რომელიც მოდელებს აკრძალული ინსტრუქციების შესასრულებლად ატყუებს. ექსპერიმენტმა აჩვენა, რომ უსაფრთხოების ბარიერების მოხსნა გაცილებით მარტივი აღმოჩნდა, ვიდრე ამას მწარმოებლები აცხადებდნენ. ავტომატიზებული შეტევები ადამიანის ჩარევის გარეშე პოულობდნენ სისუსტეებს და ფილტრებს ავლენდნენ. უსაფრთხოების მკვლევარმა თავის ანგარიშში აღნიშნა: „თანამედროვე მოდელები კვლავ მოწყვლადნი არიან სპეციალურად სტრუქტურირებული მოთხოვნების მიმართ“. მან დაადასტურა, რომ ავტომატიზებული ინსტრუმენტები უსაფრთხოების ფილტრებს წამებში ავლენენ. მკვლევრის თქმით, ეს პრობლემა ყველა წამყვან მოდელს ახასიათებს და სერიოზულ ყურადღებას მოითხოვს. Google Gemini-სა და OpenAI-ის მოდელებმა რამდენიმე რთულ სცენარში აკრძალული ინფორმაცია გასცეს. ექსპერტების ინფორმაციით, სისტემებმა ვერ შეძლეს შენიღბული მოთხოვნების სწორად იდენტიფიცირება. ამან აჩვენა, რომ კონტენტის ფილტრები არასაკმარისად მუშაობს სოფისტიკური შეტევების დროს და დამატებით დაცვას საჭიროებს. Anthropic-ის წარმომადგენელმა პრესკონფერენციაზე განმარტა, რომ მათ მოდელებში უსაფრთხოების ახალი მექანიზმები უკვე იტესტება. მან დასძინა: „ჩვენ მუდმივად ვანახლებთ ფილტრებს, თუმცა თავდაცვის სრულყოფილის შექმნა რთული ამოცანაა“. კომპანია გეგმავს დამატებითი ბარიერების ინტეგრირებას თავის პლატფორმაში. xAI-ის Grok მოდელმაც აჩვენა სისუსტეები გარკვეული ტიპის პრომპტების დამუშავებისას. 2 დამოუკიდებელმა ლაბორატორიამ დაადასტურა, რომ მოდელი ადვილად ექცევა როლური თამაშების გავლენის ქვეშ. ექსპერიმენტებისას Grok-მა აკრძალულ თემებზე პასუხები გასცა, რამაც ექსპერტთა შეშფოთება გამოიწვია. ტექნოლოგიური კომპანიები ყოველწლიურად $100 მილიონზე მეტს ხარჯავენ AI უსაფრთხოების კვლევებზე. მიუხედავად ამისა, 2026 წლის მონაცემებით, ჯეილბრეიკის ახალი მეთოდების რაოდენობა 3-ჯერ გაიზარდა. ეს მიუთითებს იმაზე, რომ შეტევის მეთოდები თავდაცვის საშუალებებზე სწრაფად ვითარდება და ახალ გამოწვევებს ქმნის. აშშ-ის ხელოვნური ინტელექტის უსაფრთხოების ინსტიტუტმა მიუთითა, რომ მოდელების უსაფრთხოების შეფასება სავალდებულო გახდება. 1 წამყვანმა ექსპერტმა განაცხადა, რომ კომპანიებმა მეტი ყურადღება უნდა დაუთმონ ფუნდამენტურ არქიტექტურას, რათა თავიდან აიცილონ სერიოზული ინციდენტები და მონაცემთა გაჟონვა. ანალიტიკოსების შეფასებით, AI მოდელების საიმედოობა კვლავ მთავარ გამოწვევად რჩება. ავტომატიზებული შეტევების განვითარება კომპანიებს თავდაცვის ახალი სტრატეგიების შემუშავებას აიძულებს. უსაფრთხოების ხარვეზები საფრთხეს უქმნის მომხმარებელთა მონაცემებს და საზოგადოების ნდობას ამცირებს. მკვლევრები 2026 წლის ბოლომდე უსაფრთხოების ახალი პროტოკოლების წარდგენას გეგმავენ. მანამ კი ექსპერტები მომხმარებლებს მოუწოდებენ, AI მოდელების მიერ მოწოდებულ ინფორმაციას სიფრთხილით მოეკიდონ, რადგან სისტემები ჯერ კიდევ შეიცავენ ხარვეზებს და შეცდომების ალბათობა მაღალია. კბერუსაფრთხოების სპეციალისტები აღნიშნავენ, რომ ავტომატიზებული ჯეილბრეიკი ახალ საფრთხეს წარმოადგენს. კომპანიებს მოუწევთ უსაფრთხოების არქიტექტურის ძირეული გადახედვა და ახალი ბარიერების დანერგვა, რათა უზრუნველყოფილი იყოს პლატფორმების საიმედოობა. ტექნოლოგიური სექტორი ემზადება ახალი რეგულაციებისათვის, რომლებიც AI მოდელების უსაფრთხოების ტესტირებას სავალდებულოს გახდის. საზოგადოების ნდობა დამოკიდებული იქნება იმაზე, თუ რამდენად ეფექტიანად გადაიჭრება ეს პრობლემა უახლოეს მომავალში. ექსპერტები მიიჩნევენ, რომ უსაფრთხოების ტესტირება დამოუკიდებელმა ორგანიზაციებმა უნდა ჩაატარონ. მხოლოდ ასეთი მიდგომა უზრუნველყოფს ობიექტურ შეფასებას და ხარვეზების დროულ აღმოფხვრას. ეს ხელს შეუწყობს AI სისტემების საიმედოობის ამაღლებას გლობალურ დონეზე. WIRED-ის მიერ გამოქვეყნებული ანგარიში კიდევ ერთხელ ახსენებს ინდუსტრიას, რომ AI მოდელების განვითარებასთან ერთად უსაფრთხოების რისკებიც იზრდება. 2026 წელს უსაფრთხოების საკითხები პრიორიტეტული გახდება მთელი მსოფლიოსათვის, ხოლო კომპანიებმა უნდა შეიმუშაონ ახალი ალგორითმები ავტომატიზებული შეტევების ნეიტრალიზაციისათვის.

#jailbreak#WIRED#OpenAI
It’s Frighteningly Easy to Jailbreak Some Frontier AI Models
10 აგვ 20264
Erling Haaland Is Everywhere at the World Cup. Most of It Is AI
wired.com

📱 ერლინგ ხოლანდი მსოფლიო ჩემპიონატზე ფართოდ ვრცელდება ხელოვნური ინტელექტის მეშვეობით

2026 წლის მსოფლიო ჩემპიონატის ციებ-ცხელების პარალელურად, ინტერნეტში ფართოდ გავრცელდა ნორვეგიელი თავდამსხმელის, ერლინგ ხოლანდის ვიდეო. კადრებში ჩანს, თუ როგორ ზის ფეხბურთელი რესტორანში და საკუთარ ანარეკლზე ფრთხება. თუმცა, მოგვიანებით მონაცემებმა დაადასტურა, რომ ეს პოპულარული კლიპი რეალურად ხელოვნური ინტელექტის მიერ შექმნილი მაღალი ხარისხის დიპფეიკია, რომელმაც მილიონობით ადამიანი შეცდომაში შეიყვანა. ფაქტების გადამმოწმებლის თქმით, ვიდეოს ორიგინალი ჩინელ კომიკოსს, ჯინ ლონგს ეკუთვნის. მან ეს სახალისო სკეჩი TikTok-ზე ივნისის შუა რიცხვებში განათავსა, რის შემდეგაც უცნობმა ავტორებმა კომიკოსის სახე ხოლანდის გამოსახულებით ჩაანაცვლეს. მიუხედავად იმისა, რომ კორექტირებული ინფორმაცია მალევე გავრცელდა, ვიდეოს ნახვები სოციალურ ქსელებში მაინც კატასტროფული ტემპით იზრდებოდა. ფეხბურთის გულშემატკივრებისთვის ხოლანდი იმდენად ნაცნობ და საყვარელ პერსონაჟად იქცა, რომ ხელოვნური ინტელექტის მიერ გენერირებულ კონტენტს საზოგადოება ენთუზიაზმით ხვდება. გამოცემა WIRED წერს: „თუ ვარსკვლავობის ძველი მოდელი საკუთარი იმიჯის მკაცრ კონტროლს გულისხმობდა, ახალი რეალობა სრულიად განსხვავებულია". ჩინეთში ფეხბურთელი უკვე დიდი ხანია მემების მთავარი გმირია და რამდენიმე კომერციულ კამპანიაშიც მონაწილეობს. ამგვარი ტენდენცია კარგად ასახავს იმას, თუ როგორ მუშაობს თანამედროვე სპორტული ფანდომი ონლაინ სივრცეში. გულშემატკივრები ათლეტებს მხოლოდ მატჩების შემდგომი ინტერვიუებით აღარ აღიქვამენ და მათ საკუთარ ციფრულ სამყაროში გადაჰყავთ. WSC Sports-ის ანგარიშის თანახმად, 25 წლამდე ასაკის ფანების თითქმის 76% სპორტულ ახალ ამბებსა და კონტენტს ექსკლუზიურად სოციალური მედიის საშუალებით მოიხმარს. ფანები ფეხბურთელებს ისე ეპყრობიან, როგორც მხატვრულ გმირებს, რომელთა ირგვლივაც საკუთარ ისტორიებსა და მემებს ქმნიან. „ფანონი", ანუ მაყურებლის მიერ გამოგონილი მასალა, ხშირად ავსებს იმ სიცარიელეს, რომელსაც რეალური ცხოვრება ტოვებს. ხოლანდის გარდა, ხელოვნური ინტელექტის მსხვერპლი გახდა ფრანგი თავდამსხმელი კილიან მბაპეც, რომლის მიმართაც ფართოდ გავრცელებული დიქტატორის მემები შეიქმნა. მსოფლიო ჩემპიონატზე ნორვეგიის ნაკრებისთვის ეს ტურნირი განსაკუთრებულია, რადგან ქვეყანა მუნდიალზე 1998 წლის შემდეგ პირველად ასპარეზობს. ხოლანდი ნაკრების მთავარი იმედია, თუმცა მისი პოპულარობა მოედნის ფარგლებს გაცილებით სცილდება. საზოგადოების რეაქცია აჩვენებს, რომ ტექნოლოგიური პროგრესი პანიკის ნაცვლად, ახალი შემოქმედებითი ფორმების აღმოჩენას უწყობს ხელს. მსგავსი შემთხვევები წარსულშიც არაერთხელ დაფიქსირდა და საზოგადოების მხრიდან ყოველთვის დიდი ინტერესი გამოიწვია. მაგალითად, 2021 წელს სოციალურ ქსელში გამოჩნდა ტომ კრუზის იდეალური დიპფეიკი, რომელმაც მილიონობით ადამიანის აღფრთოვანება გამოიწვია. იმავე წელს ბალენსიაგას ქურთუკში გამოწყობილმა რომის პაპმა თითქმის მთელი ინტერნეტი შეცდომაში შეიყვანა, მაგრამ ამას პროტესტი არ მოჰყოლია. გულშემატკივრები ხშირად იყენებენ თანამედროვე ტექნოლოგიებს სპორტული ბილეთების ფასების მონიტორინგისთვის და ალტერნატიული გზების მოსაძიებლად. ხელოვნური ინტელექტი ეხმარება მათ, რომ შეამცირონ ხარჯები და მარტივად დაესწრონ თამაშებს. სპორტული ინდუსტრიის წარმომადგენელი აცხადებს, რომ მომხმარებელთა ქცევა მკვეთრად იცვლება და ძველი მეთოდები თავის აქტუალურობას სწრაფად კარგავს. ტექნოლოგიური ევოლუცია სპორტულ კლუბებს ახალი გამოწვევების წინაშე აყენებს, რადგან იმიჯის უფლებების დაცვა სულ უფრო რთულდება. როდესაც ნებისმიერ გულშემატკივარს შეუძლია შექმნას რეალისტური ვიდეო, ტრადიციული იურიდიული მექანიზმები ძალას კარგავს. ამიტომ, სპორტული ორგანიზაციები იძულებულია შეეგუოს ახალ რეალობას და მტრული დამოკიდებულების ნაცვლად, თანამშრომლობის გზები ეძებოს. კვლევის ავტორი განმარტავს, რომ ფანების ახალი თაობა განსხვავებულ გამოცდილებას ითხოვს. ანგარიშის მიხედვით, ახალგაზრდებს სურთ იყვნენ პროცესის აქტიური მონაწილეები, რასაც ხელოვნური ინტელექტი საკმაოდ მარტივად უზრუნველყოფს. ეს ტენდენცია აიძულებს სპორტულ კლუბებს, რომ სრულიად შეცვალონ თავიანთი მარკეტინგული სტრატეგია და ახალი არხები აითვისონ. საბოლოო ჯამში, ერლინგ ხოლანდის გარშემო შექმნილი ინტერნეტ კულტურა აჩვენებს, თუ როგორ ცვლის ტექნოლოგიური პროგრესი სპორტული ვარსკვლავების იმიჯს. ხელოვნური ინტელექტი ქმნის ახალ შესაძლებლობებს ფანებთან ურთიერთობისთვის, თუმცა ამავდროულად ბადებს კითხვებს ავტორობის შესახებ. მომავალი დამოკიდებული იქნება იმაზე, თუ რამდენად სწრაფად შეეგუება სპორტული სამყარო ციფრულ ტრანსფორმაციას.

#Erling-Haaland#World-Cup#Jin-Long
Erling Haaland Is Everywhere at the World Cup. Most of It Is AI
7 ივლ 20269
You Can Now Sound the Alarm on AI Behaving Badly
wired.com

⚠️ AI-ს ხარვეზების შესატყობინებლად მკვლევრებმა ვებგვერდი FLARE-AI ამოქმედეს

AI მკვლევართა ჯგუფმა კრაუდსორსინგზე დაფუძნებული ვებგვერდი FLARE-AI ამოქმედა, სადაც ნებისმიერ მომხმარებელს ხელოვნური ინტელექტის სისტემების ხარვეზებისა და მათ მიერ მიყენებული ზიანის შესახებ შეტყობინება და მათი თვალყურის დევნება შეეძლება. სახელი სრულად ითარგმნება როგორც „ხარვეზების შეტყობინება AI-სთვის". გამოცემა WIRED-ის ჟურნალისტმა უილ ნაითმა 1 ივლისს დაწერა, რომ პლატფორმის ღია კოდი სხვებს პრობლემის დამოუკიდებლად გადამოწმებაში ეხმარება. ვებგვერდი ჯგუფის მიმდინარე მუშაობის კიდევ ერთი ეტაპია, რომლის შესახებაც ნაითმა პირველად შარშან დაწერა. თუ ჩატბოტი მავნე პროგრამას ან ბომბის დამზადების რეცეპტს შექმნის, პირად ინფორმაციას გაამჟღავნებს ან მომხმარებელს ბოდვით აზროვნებას აღუძრავს, სისტემა განგაშს ატეხს. შეტყობინებები მოდელების შემქმნელებს ეგზავნებათ, რაც პრობლემის სწრაფად აღმოფხვრის საშუალებას იძლევა. ანგარიშები ასევე მიემართება ორგანიზაციებს, მათ შორის არაკომერციულ MITRE-ს, რომელიც ტექნიკური სისტემების პრობლემებს აღრიცხავს. ნაითი ამ მოდელს Downdetector-ს ადარებს, რომელიც სერვისების გლობალურ შეფერხებებზე რეალურ დროში აგროვებს მომხმარებელთა შეტყობინებებს აპლიკაციებსა და ვებგვერდებზე. სისტემის შემუშავებას თანახელმძღვანელობდნენ HuggingFace-ის AI პოლიტიკის მკვლევარი ავიჯიტ გоши და კომპიუტერული მეცნიერები ილეინ ჟუ და შეინ ლონგპრე. განგაშის მექანიზმი 32 სხვადასხვა ორგანიზაციის 49 AI ექსპერტის თანამშრომლობით შეიქმნა, პროექტს კი ცალკე სამეცნიერო ნაშრომიც ახლავს. „ამ მომენტში არ არსებობს AI სისტემების ხარვეზების შეტყობინების ცენტრალიზებული და ანგარიშვალდებული გზა", განაცხადა გоშმა. მისი თქმით, კოორდინირებული გამჟღავნების სისტემის გარეშე გამჭვირვალობის უზრუნველყოფის გარე მექანიზმები არ არსებობს, კომპანიებს კი ასეთ საკითხებზე განსხვავებული სტანდარტები აქვთ, რის გამოც ზოგი პრობლემა შეუმჩნეველი რჩება. გоши დასძენს, რომ AI სისტემების პრობლემები მხოლოდ პროგრამულ და კიბერუსაფრთხოების ხარვეზებს არ მოიცავს. მისი განმარტებით, ისინი ფსიქოლოგიურ ზიანს, დისკრიმინაციასა და მიკერძოებას, ასევე დეზინფორმაციასაც ეხება, თუმცა სწორედ ბაგებსა და კიბერსაფრთხეებს ექცევა ბოლო დროს ყველაზე მეტი ყურადღება. ცენტრ Center for Security and Emerging Technology-ის მკვლევარი ჯესიკა ჯი პროექტს მიესალმა და კარგ ინიციატივად შეაფასა. ჯი აღნიშნავს, რომ არსებული მექანიზმები ფრაგმენტულია, AI მოდელები კი შავი ყუთია, და დასძენს, რომ მხარს უჭერს ყველაფერს, რაც AI-ს უფრო გამჭვირვალეს ხდის. შარშან ამავე ჯგუფმა გამოაქვეყნა ანგარიში, რომელშიც 3 ათასამდე მკვლევარი მონაწილეობდა და ხარვეზების შეტყობინების 15-მდე განსხვავებული პრაქტიკა შეისწავლა. კვლევის მიხედვით, კომპანიების 60 პროცენტს საერთოდ არ ჰქონდა ხარვეზების მიღების ცალკე არხი, რაც პრობლემას კიდევ უფრო ამძაფრებდა. ბოლო დროის რამდენიმე შემთხვევა აჩვენებს, თუ რამდენად ადვილად შეიძლება ტექნოლოგიის გაუმართაობა. ამ კვირაში კომპანია LayerX-მა AI-ით აღჭურვილი ბრაუზერების, მათ შორის OpenAI-ის Atlas-ისა და Perplexity-ის Comet-ის, მოტყუების გზა გაამჟღავნა. მოდელის დარწმუნება, თითქოს ის თამაშობდა, ბრაუზერს ვებგვერდის გატეხვის მცდელობამდე მიჰყავდა. აპრილში უსაფრთხოების მკვლევარმა იოჰან რეჰბергерმა Claude-ის მოტყუების ხერხი აღმოაჩინა. ChatGPT-ით შექმნილი სურათებით ის პირად მონაცემებს ამჟღავნებინებდა. შარშან OpenAI-მ თავისი მოდელები განაახლა, რადგან ისინი გადამეტებულად მაამებლები აღმოჩნდნენ, რაც ზოგ მომხმარებელს ბოდვით აზროვნებას აღუძრავდა. Humane Intelligence-ის დირექტორი და დამფუძნებელი, რუმან ჩოუდური მიიჩნევს, რომ FLARE-AI ბევრ დეველოპერს ხარვეზების შეტყობინების გზების დანერგვაში დაეხმარება. მისივე თქმით, ასეთ ინიციატივებს ხშირად სერიოზული გამოწვევები ახლავს: უმნიშვნელო შეტყობინებების ნაკადის მართვა და ავტორიტეტული ორგანიზაციების მხარდაჭერის მოპოვება. ივნისში წარდგენილი კანონპროექტი AI-ს ხარვეზების შეტყობინებას ამერიკის მთავრობის ცენტრალურ როლს მიანიჭებდა. სამმა კანონმდებელმა შეიტანა ინიციატივა, რომელიც სააგენტო NIST-ს შეტყობინების სტანდარტების შემუშავებასა და ცენტრალიზებული ბაზის წარმოებას დაავალებდა 2 წლის ვადაში. AI-ს ზიანის შეტყობინების ახალი გზების საჭიროება, სავარაუდოდ, მხოლოდ გაიზრდება. აგენტური სისტემები, მაგალითად OpenClaw, უფრო მეტ საფრთხეს ქმნიან, ისევე როგორც კომპიუტერული სისტემების გატეხვისუნარიანი მოდელები, რომელთა თვალყურის დევნა ამჟამად ერთიანი სტანდარტის გარეშე ხდება.

#FLARE-AI#WIRED#Will-Knight
You Can Now Sound the Alarm on AI Behaving Badly
2 ივლ 20269

All insights loaded