Insights

⚠️ მკვლევრები ხელოვნურ ინტელექტში ჩერნობილის მსგავსი კატასტროფის საფრთხეზე საუბრობენ

ამერიკელი და ჩინელი წამყვანი მკვლევრები ხელოვნური ინტელექტის განვითარების პროცესში შესაძლო გლობალური კატასტროფის შესახებ აქტიურად აფრთხილებენ საზოგადოებას. მათი აზრით, ტექნოლოგიის უკონტროლო განვითარებამ შეიძლება გამოიწვიოს მასობრივი ზიანი ან დამანგვერელი კიბერშეტევა. ეს მოვლენა სამუდამოდ შეცვლის საზოგადოების დამოკიდებულებას და შეაჩერებს ტექნოლოგიურ პროგრესს. პოპულარული გამოცემა Futurism-ის ინფორმაციით, სპეციალისტები ამ საფრთხეს ბირთვულ ენერგეტიკაში მომხდარ ჩერნობილის ტრაგედიას ადარებენ. მასაჩუსეტსის ტექნოლოგიური ინსტიტუტის კომპიუტერულმა მეცნიერმა, სტივენ კასპერმა, პეკინში გამართულ კონფერენციაზე განაცხადა: „ერთი რამ, რაზეც ხელოვნური ინტელექტის სფეროში თითქმის ყველა თანხმდება, არის ის, რომ ჩვენ არ გვჭირდება ჩერნობილის მომენტი“. მისი თქმით, ეს საფრთხე რეალურია. კასპერმა თავის გამოსვლაში ხაზი გაუსვა გლობალური თანამშრომლობის აუცილებლობას ამერიკის შეერთებულ შტატებსა და ჩინეთს შორის. მან აღნიშნა, რომ ხელოვნური ინტელექტი არის გლობალური ტექნოლოგია, რომელსაც მოაქვს როგორც დიდი სარგებელი, ისე სერიოზული საფრთხეები. ახალი შესაძლებლობების გავრცელება კი სწრაფი ტემპით ხდება, რაც ზრდის კიბერუსაფრთხოების რისკებს მთელ მსოფლიოში. სპეციალისტების განმარტებით, ტექნოლოგიის გამოყენებამ შეიძლება მნიშვნელოვნად გაზარდოს ჰაკერული თავდასხმების მასშტაბები და შეამციროს მათი განხორციელებისთვის საჭირო ცოდნის დონე. კოდის გენერირების უნარი, რომელიც მოწინავე მოდელებს აქვთ, ჰაკერებს აძლევს საშუალებას, შექმნან საშიში ვირუსები. ეს პროცესი საფრთხეს უქმნის მსოფლიოს უმსხვილეს ციფრულ და სამთავრობო სისტემებს. სწორედ მსგავსი საფრთხეების გამო კომპანია Anthropic-მა თავდაპირველად უარი თქვა თავისი ყველაზე ძლიერი მოდელის, Claude Mythos-ის საჯაროდ გამოშვებაზე. კომპანიის სპეციალისტების შეფასებით, მოდელი იმდენად ძლიერი იყო, რომ მას შეეძლო შეეღწია პრაქტიკულად ყველა წამყვან ოპერაციულ სისტემასა და ინტერნეტ ბრაუზერში. ეს ფაქტი ადასტურებს, რომ უსაფრთხოების ფილტრების გაძლიერება სასიცოცხლოდ მნიშვნელოვანია. რისკებს კიდევ უფრო ზრდის ღია კოდის მქონე მოდელების გავრცელება, რომლებსაც არ გააჩნიათ სათანადო კონტროლისა და მონიტორინგის მექანიზმები. ჩინეთის ერთ-ერთი უმსხვილესი ტექნოლოგიური კომპანიის წარმომადგენელმა დაადასტურა, რომ უსაფრთხოების გამო ჩინეთში მოწინავე მოდელების ღია კოდით გამოშვება შეჩერდა. ეს აჩვენებს, რომ ტექნოლოგიური კომპანიები იძულებულნი არიან, უარი თქვან ღიაობაზე უსაფრთხოების სასარგებლოდ. შანხაის ჯიაო ტონგის უნივერსიტეტის პროფესორმა, ლინ იუნმა, აღნიშნა, რომ მოკლევადიან პერსპექტივაში ჰაკერები ხელოვნური ინტელექტის დახმარებით უპირატესობას მოიპოვებენ. თუმცა, მისივე თქმით, გრძელვადიან პერსპექტივაში ტექნოლოგია თავად დაეხმარება კიბერდაცვის სისტემების გაძლიერებას. სწორედ ამიტომ არის მნიშვნელოვანი უსაფრთხოების საერთო პრინციპებისა და ტექნიკური სტანდარტების შემუშავება. იუნმა თავის ინტერვიუში განმარტა, რომ 2 ქვეყნის მიერ რისკების ერთნაირად გააზრება გააადვილებს საერთო უსაფრთხოების სტანდარტების შექმნას. უსაფრთხოების ექსპერტები ამ მდგომარეობას ცივი ომის პერიოდს ადარებენ, როდესაც აშშ და საბჭოთა კავშირი ბირთვული საფრთხის შესამცირებლად თანამშრომლობდნენ. მიუხედავად გეოპოლიტიკური მეტოქეობისა, მხარეებმა შეძლეს შეთანხმების მიღწევა უსაფრთხოების სტანდარტებზე. ანალიტიკოსები წერენ, რომ საერთაშორისო თანამშრომლობა ამ სფეროში ახლა უფრო მნიშვნელოვანია, ვიდრე ოდესმე. აშშ-ის პრეზიდენტის მიერ ხელმოწერილი ბრძანებულება სწორედ უსაფრთხოების რეგულაციების გამკაცრებას ისახავს მიზნად. თუმცა, გლობალური უსაფრთხოების მიღწევა შეუძლებელია სხვა ქვეყნების, განსაკუთრებით კი ჩინეთის ჩართულობის გარეშე, რადგან ტექნოლოგიური რბოლა გლობალურ ხასიათს ატარებს. საბოლოო ჯამში, მკვლევრები მოუწოდებენ ტექნოლოგიურ გიგანტებს, მეტი ყურადღება დაუთმონ კიბერუსაფრთხოების კვლევებს და არა მხოლოდ მოდელების სიმძლავრის გაზრდას. Fable 5-ის ირგვლივ განვითარებულმა მოვლენებმა ნათლად აჩვენა, თუ რამდენად სწრაფად შეიძლება შეიცვალოს რეგულაციები უსაფრთხოების გამოწვევების საპასუხოდ. მხოლოდ ერთობლივი ძალისხმევით არის შესაძლებელი ტექნოლოგიის უსაფრთხო და სტაბილური განვითარების უზრუნველყოფა. კომპანიის სპეციალისტები აცხადებენ, რომ დღეს უსაფრთხოების მონიტორინგი 24 საათის განმავლობაში მიმდინარეობს. ახალი კლასიფიკატორები შემთხვევათა 99%-ში ბლოკავს მავნე კოდის გენერირებას, რაც ამცირებს რისკებს. ანგარიშის თანახმად, დაახლოებით 150-გვერდიანი მანიფესტი, რომელიც ამერიკელმა მკვლევრებმა 30 ივნისს შეიმუშავეს, საფუძვლად დაედო ახალ სამთავრობო რეგულაციებს.