Insights

⚔️ სამხედრო AI-ის შეცდომამ აშშ-სა და ჩინეთს შორის შეიარაღებული ესკალაციის რისკი შექმნა

საერთაშორისო ყურადღების ცენტრში მოექცა ინციდენტი, რომელმაც აშშ-ის სამხედრო ძალები გლობალური კონფლიქტის ზღვრამდე მიიყვანა. ბრიტანული გამოცემა Guardian-ის მიერ გამოქვეყნებული ანალიზის თანახმად, ჩატბოტის მიერ მომზადებულმა მცდარმა სადაზვერვო მოხსენებამ ჩინური გემის დაკავების ბრძანება თითქმის გააქტიურა. ექსპერტები აღნიშნავს, რომ რეალურ საფრთხეს წარმოადგენს გაუმართავი სისტემები და არა შორეული ზესინტელექტის მითი. CNN-ის ინფორმაციით, ინციდენტი 18 სექტემბერს დაფიქსირდა, როდესაც თავდაცვის უწყების ანალიტიკოსებმა ხელოვნური ინტელექტის მიერ გენერირებული ანგარიში მიიღო. დოკუმენტში მითითებული იყო, რომ ჩინურ სავაჭრო გემს ბირთვული იარაღის კომპონენტები გადაჰქონდა. აღნიშნულმა ცნობამ პენტაგონში საგანგებო მზადყოფნა გამოიწვია, რის გამოც სარდლობამ სპეცდანიშნულების რაზმები და 2 საბრძოლო თვითმფრინავი მყისიერად მოამზადა. ოპერაციის დაწყებამდე რამდენიმე წუთით ადრე ოფიცრებმა ინფორმაციის ხელახალი გადამოწმება დაიწყო, რა დროსაც აღმოჩნდა, რომ სადაზვერვო დასკვნა ენობრივი მოდელის ჰალუცინაციას ეფუძნებოდა. სატვირთო ხომალდი სინამდვილეში სტანდარტულ სამრეწველო ტვირთს ატარებდა და ბირთვულ მასალებთან კავშირი არ ჰქონია. სპეციალისტებმა განმარტა, რომ ბრძანების შესრულება ორ ბირთვულ სახელმწიფოს შორის პირდაპირ სამხედრო შეტაკებას გამოიწვევდა. ხელოვნური ინტელექტის მკვლევარმა ემილი ბენდერმა საკითხის შეფასებისას პირდაპირ განაცხადა: „რეალურ საფრთხეს წარმოადგენს ხარვეზიანი სისტემების დანერგვა ისეთ სფეროებში, სადაც ადამიანთა სიცოცხლე წყდება“. მისი თქმით, სამხედრო სტრუქტურები ხშირად ენდობა გაუაზრებელ ალგორითმებს, რომლებიც სტატისტიკური ალბათობით მოქმედებს და ფაქტობრივი რეალობის ობიექტური შეფასების უნარი არ გააჩნია. ცნობილმა ექსპერტმა ტიმნიტ გებრუმ დაადასტურა, რომ ტექნოლოგიური ინდუსტრია საზოგადოებას ყურადღებას ფუტურისტულ საფრთხეებზე გადაატანინებს, რათა რეალური პასუხისმგებლობა თავიდან აიცილოს. 2026 წლის მონაცემებით, აშშ-ის თავდაცვის დეპარტამენტი 100-ზე მეტ ავტონომიურ პროექტს აფინანსებს, სადაც გადაწყვეტილების მიღების პროცესში მანქანური სწავლების ალგორითმები მონაწილეობს. ანალიტიკოსების შეფასებით, სამხედრო გარემოში ალგორითმული შეცდომა შესაძლოა შეუქცევადი კატასტროფის მიზეზი გახდეს. რთული გეოპოლიტიკური ვითარების დროს, როდესაც გადაწყვეტილების მისაღებად ოფიცრებს მხოლოდ 10 წუთი რჩება, მცდარი მონაცემების გადამოწმება ხშირად შეუძლებელი ხდება. მკვლევრებმა მიუთითა, რომ დაუმოწმებელი ავტომატიზაცია თავდაცვითი სისტემების მყიფე სტაბილურობას მკვეთრად არყევს. Guardian-ის ცნობით, ბოლო 3 წლის განმავლობაში შეიარაღებულ ძალებში კომერციული ენობრივი მოდელების გამოყენება მკვეთრად გახშირდა. ოფიცრები ხშირად იყენებს ჩატბოტებს დიდი მოცულობის სადაზვერვო ტექსტების დასამუშავებლად და შეჯამებისთვის. თუმცა მსგავსი სისტემები ხშირად იგონებს არარსებულ ფაქტებს, რასაც სამხედრო კონტექსტში ფატალური შედეგების მოტანა შეუძლია. პენტაგონის შიდა აუდიტის თანახმად, ხელოვნური ინტელექტის მიერ მომზადებული ანგარიშების 24 პროცენტი გარკვეულ უზუსტობას ან დეზინფორმაციას შეიცავს. მიუხედავად ამისა, თავდაცვის კონტრაქტორები სისტემების აქტიურ ლობირებას განაგრძობს და ახალი თაობის ავტონომიური კომპლექსების შექმნას გვპირდება. მკვლევრები კი მოითხოვს, რომ სასიცოცხლო გადაწყვეტილებებზე საბოლოო კონტროლი მხოლოდ ადამიანს შეუნარჩუნდეს. ევროპელმა ექსპერტებმა აღნიშნა, რომ ანალოგიური რისკები სხვა ქვეყნების სამხედრო უწყებებშიც იჩენს თავს. 2025 წლიდან მოყოლებული გლობალური არმიები სადაზვერვო ოპერაციებში ნეიროქსელების ინტეგრაციას აჩქარებს, რაც საერთაშორისო უსაფრთხოების ახალ გამოწვევებს ბადებს. მარეგულირებელი მექანიზმების არარსებობა კი შეიარაღებული კონფლიქტების შემთხვევითი ესკალაციის ალბათობას მნიშვნელოვნად ზრდის. დამოუკიდებელმა ექსპერტებმა ხაზგასმით დასძინა, რომ დროა შეწყდეს საუბარი რობოტების მიერ სამყაროს დაპყრობაზე და ყურადღება მიექცეს რეალურ პრობლემებს. სისტემური ხარვეზები, მიკერძოებული ალგორითმები და გადაუმოწმებელი მონაცემები უკვე დღეს უქმნის საფრთხეს გლობალურ მშვიდობას. სწორედ ამიტომ, სამხედრო სექტორში ტექნოლოგიების გამოყენება მკაცრ საერთაშორისო მონიტორინგს მოითხოვს. მომხდარი ინციდენტი მკაფიო გაფრთხილებაა მსოფლიო ლიდერებისთვის, რათა თავდაცვის სფეროში ციფრული ინსტრუმენტების დანერგვის წესები გადაიხედოს. სანამ სახელმწიფოები ავტონომიურ სისტემებს ენდობა, გლობალური უსაფრთხოება შემთხვევითი ალგორითმული შეცდომების მძევლად დარჩება. ანალიტიკოსების აზრით, ტექნოლოგიური გამჭვირვალობა და მკაცრი შემოწმება თანამედროვე საერთაშორისო პოლიტიკის უმთავრეს პრიორიტეტად უნდა იქცეს.