⚠️ აშშ-ის არმიამ ხელოვნური ინტელექტით შერჩეულ 3 000 სამიზნეს შორის სკოლა დაბომბა და 120 ბავშვი დაიღუპა
აშშ-ის არმიამ ხელოვნური ინტელექტის გამოყენებით განხორციელებული სამხედრო კამპანიის დროს ირანის ქალაქ მინაბში მდებარე სკოლა დაბომბა, რის შედეგადაც 120 ბავშვი დაიღუპა. თებერვლის ბოლოს მომხდარი ტრაგედიის გამოძიების ანგარიში აჩვენებს, რომ კატასტროფა გამოიწვია ანალიტიკოსის მიერ დატოვებული ჩანაწერის უგულებელყოფამ და სხვადასხვა საინფორმაციო ბაზებს შორის კავშირის არარსებობამ. როგორც გამოცემა Los Angeles Times-ი წერს, სამხედრო უწყების შიდა გამოძიებამ გამოავლინა სერიოზული ხარვეზები აშშ-ის არმიის სამიზნეების შერჩევის სისტემაში. ეს იყო პირველი შემთხვევა, როდესაც ამერიკულმა ძალებმა სამიზნეების მასობრივი იდენტიფიკაციისთვის ხელოვნური ინტელექტი გამოიყენეს. პალანტირის Maven Smart System პლატფორმაში ჩაინტეგრირებული ანთროპიკის Claude მოდელმა ოპერაციის პირველსავე დღეს 1 000-მდე სამიზნე შეარჩია. გამოძიების თანახმად, ჯერ კიდევ წლების წინ, ამერიკელმა სამხედრო ანალიტიკოსმა ირანის სამხრეთ-აღმოსავლეთში მდებარე ობიექტზე ცვლილებები შენიშნა. შენობა, რომელიც ადრე ირანის სამხედრო-საზღვაო ბაზად იყო კლასიფიცირებული, დაწყებით სკოლად გადაკეთდა. ანალიტიკოსმა ეს მნიშვნელოვანი ცვლილება 2019 წელს ციფრული სადაზვერვო ხელსაწყოს გამოყენებით მონიშნა, თუმცა ინფორმაციამ მეთაურებამდე ვერ მიაღწია. კატასტროფული ხარვეზი იმაში მდგომარეობდა, რომ აღნიშნული სადაზვერვო ხელსაწყო არ იყო დაკავშირებული ოფიციალურ საპროექტო ბაზასთან, რომელსაც სამხედროები თავდასხმის სამიზნეების დასამუშავებლად იყენებენ. სამიზნე შენობა ოპერაციის დაწყებამდე რამდენჯერმე გადამოწმდა, თუმცა ბაზა არავის განუახლებია. New York Times-ის ცნობით, სამხედროები იყენებდნენ თანამგზავრულ ფოტოებს, რომლებიც 7 წლის წინ იყო გადაღებული. ამჟამადაც კი, სულ მცირე ორი სადაზვერვო მონაცემთა ბაზა კვლავ გათიშულია ძირითადი სამიზნე სისტემისგან, რომელსაც MIDB ჰქვია. ეს ბაზა 1980-იან წლებში შეიქმნა და დღემდე მეტწილად ხელით შეყვანილ მონაცემებს ეყრდნობა. მისი ჩანაცვლება MARS-ის ავტომატიზებული სისტემით იგეგმებოდა, თუმცა პროცესი წლებით ჩამორჩება გრაფიკს. აშშ-ის სახელმწიფო აუდიტის სამსახურმა ამ ბაზის ხარვეზებზე ჯერ კიდევ 2020 წელს განაცხადა. ინფრასტრუქტურის სიძველე მკვეთრად ეწინააღმდეგება სამხედრო სფეროში ხელოვნური ინტელექტის დანერგვის ტემპს. WSJ-ის რეპორტის მონაცემებით, კამპანიის პირველ დღეებში ამერიკელებმა 3 000-ზე მეტ სამიზნეს დაარტყეს. ანალიტიკოსები აფრთხილებდნენ სამხედრო უწყებას, რომ ადამიანის მიერ გადაწყვეტილებების გადამოწმების მექანიზმები სათანადოდ არ ფინანსდებოდა, რამაც საბოლოოდ ტრაგიკულ შეცდომამდე მიგვიყვანა. თავდაცვის სადაზვერვო სააგენტომ, რომელიც MIDB-სა და MARS-ის ბაზებს მართავს, Bloomberg-ის კითხვებს პირდაპირი პასუხი არ გასცა. უწყების წარმომადგენელმა მხოლოდ ზოგადად მიუთითა ანალიტიკოსების მიერ ჩატარებული მუშაობის საფუძვლიანობაზე. ამავდროულად, პენტაგონმა ანგარიშის გამოქვეყნების შემდეგ გამოაცხადა ახალი ინიციატივა, რომელიც ავტონომიური აგენტების დანერგვას ითვალისწინებს. ტექნოლოგიური ექსპერტები ვარაუდობენ, რომ დამატებითი ალგორითმების ინტეგრაცია შეამცირებს შეცდომების ალბათობას. მაგალითად, ავტომატური გადამოწმება საჯარო სერვისებთან, როგორიცაა Google Maps, შეძლებდა ანომალიების აღმოჩენას. თუმცა სამხედრო დოქტრინის თანახმად, საბოლოო გადაწყვეტილებას ყოველთვის მეთაურები იღებენ, რომლებმაც სამოქალაქო ობიექტები სამხედროსგან უნდა განასხვავონ. სამხედრო წესებით არსებობს სამიზნეების გადამოწმების სპეციალური პროცედურა, რომელიც დაზვერვის მონაცემების სიზუსტეს ამოწმებს. საჰაერო ძალების ყოფილმა მაღალჩინოსანმა განმარტა, რომ პირველ დღეს ამ ნაბიჯის გამოტოვება წარმოუდგენელია. მიუხედავად ამისა, CENTCOM-მა მართალია გადახედა სამიზნეებს ირანზე დარტყმების წინ, თუმცა ბოლომდე უცნობია, ჩატარდა თუ არა რეალურად დაზუსტებული ვეტინგის პროცესი. ყველაზე მკაცრი შეფასება გააკეთა ხელოვნური ინტელექტის პროგრამის ყოფილმა ხელმძღვანელმა, გადამდგარმა გენერალ-ლეიტენანტმა ჯეკ შენეჰენმა. იგი 2018 წელს დაარსებული ერთობლივი ცენტრის პირველი დირექტორი იყო. შენეჰენმა დაგმო მეთაურობის უმოქმედობა და აღნიშნა: „არ არსებობს გამართლება იმისა, რომ სარდლობამ ვერ შეძლო საკუთარი დაზვერვის სიზუსტის გადამოწმება“. გენერალმა დასძინა, რომ სამიზნეების შერჩევის სფერო ბოლო ორი ათწლეულის განმავლობაში სრულიად დაკნინდა, რადგან არმია კონტრტერორისტულ ოპერაციებზე იყო ორიენტირებული. მისი თქმით, ჯერ კიდევ 2017 წელს ამ პოზიციებზე კვალიფიციური კადრების პოვნა თითქმის შეუძლებელი გახდა. ახლა კი ალგორითმებს უწევთ ძველ ბაზებთან მუშაობა, რაც მსგავს კატასტროფებს გარდაუვალს ხდის.
The US military used AI to pick thousands of targets but missed a note saying one was a school