OpenAI and Anthropic Sign Letter to Prevent AI-Dev — ინსაითი

ხელოვნური ინტელექტის წამყვანი კომპანიების ხელმძღვანელები ამერიკის შეერთებული შტატების კონგრესს ახალი რეგულაციების მიღებისკენ მოუწოდებენ. ტექნოლოგიური სექტორის ლიდერებს სურთ, რომ კანონმდებლებმა გაამკაცრონ კონტროლი გენეტიკური მასალების გაყიდვაზე. ეს ნაბიჯი მიზნად ისახავს თავიდან აიცილოს ბოროტმოქმედთა მიერ ბიოლოგიური იარაღის შექმნა ახალი ტექნოლოგიების დახმარებით.

საჯარო მიმართვის ხელმომწერთა შორის არიან Google DeepMind-ის ხელმძღვანელი დემის ჰასაბისი, OpenAI-ის აღმასრულებელი დირექტორი სემ ოლტმენი და Anthropic-ის დამფუძნებელი დარიო ამოდეი. მათ გვერდით დგას Microsoft AI-ის ხელმძღვანელი მუსტაფა სულეიმანიც. ტექნოლოგიური სფეროს ლიდერები ითხოვენ, რომ სინთეზური დნმ-ისა და რნმ-ის გამყიდველ კომპანიებს დაეკისროთ კლიენტების მკაცრი შემოწმება.

საჯარო წერილი არასამთავრობო ორგანიზაციებმა Institute for Progress და Foundation for American Innovation მოამზადეს. დოკუმენტში ნათქვამია, რომ ტექნოლოგიების სწრაფი განვითარების გამო არსებობს რეალური საშიშროება. ის ბარიერები, რომლებიც აქამდე ხელს უშლიდა საშიში ვირუსების შექმნას, სწრაფად იშლება.

მეცნიერმა ართურ კორნბერგმა დნმ-ის სინთეზირება პირველად 1950-იან წლებში შეძლო. დღეს ეს პროცესი სრულად ავტომატიზებულია. ათობით კომპანია მთელ მსოფლიოში იყენებს კომერციულ მოწყობილობებს გენეტიკური თანმიმდევრობების დასაბეჭდად. ბევრი მათგანი ყიდის მასალებს მხოლოდ სერტიფიცირებულ მკვლევრებზე, თუმცა ყველა მწარმოებელი როდი ამოწმებს შეკვეთების უსაფრთხოებას.

საშიშროება ჯერ კიდევ 2017 წელს გამოჩნდა, როდესაც კანადელმა მეცნიერებმა ფოსტის საშუალებით შეკვეთილი დნმ-ით შექმნეს გადაშენებული ვირუსი. მათ ამისთვის სულ რაღაც $100 000 დახარჯეს. ექსპერტები შიშობენ, რომ მსგავსი მეთოდით შესაძლებელია ყვავილის სახიფათო ვირუსის აღდგენაც. მას შემდეგ გენების სინთეზი კიდევ უფრო იაფი და ხელმისაწვდომი გახდა.

თანამედროვე ტექნოლოგიების დახმარებით შესაძლებელია სრულიად ახალი ტოქსინებისა და პათოგენების პროექტირება. მართალია, ფუნქციური ვირუსის შესაქმნელად ბიოლოგიური განათლება მაინც საჭიროა, მაგრამ რისკი დიდია. ხელოვნურად შექმნილმა პათოგენმა შეიძლება გამოიწვიოს გლობალური პანდემია და დიდი ეკონომიკური ზარალი.

Stanford University-ის მიკრობიოლოგმა დეივიდ რელმენმა, რომელმაც წერილს ხელი მოაწერა, მიუთითა ამ სისტემის სისუსტეებზე. მისი თქმით, ახალი პროგრამები მომხმარებლებს ეხმარება იმ კომპანიების პოვნაში, რომლებიც არ ახორციელებენ შემოწმებას. შესაბამისი მოთხოვნის შემთხვევაში, სისტემას შეუძლია შეცვალოს შეკვეთის სტრუქტურა ისე, რომ დამცავმა პროგრამებმა საფრთხე ვერ აღმოაჩინონ.

უსაფრთხოების წერილს ასევე შეუერთდნენ მეცნიერები და გენეტიკური სინთეზის კომპანიების ხელმძღვანელები Twist Bioscience-დან და Ansa Biotechnologies-დან. ეს ორგანიზაციები გაერთიანებული არიან საერთაშორისო კონსორციუმში International Gene Synthesis Consortium, რომელიც 2009 წლიდან ნებაყოფლობითი შემოწმების წესებს ნერგავს.

კომპანია Twist Bioscience-ის ვიცე-პრეზიდენტმა ჯეიმზ დიგანსმა განმარტა, რომ აუცილებელია ტექნოლოგიის პასუხისმგებლიანი გამოყენება. მისი განცხადებით, მწარმოებლებმა ზუსტად უნდა იცოდნენ, თუ ვისთვის და რას ამზადებენ. ეს ფირმა წლებია მხარს უჭერს ოფიციალური სახელმწიფო წესების შემოღებას ამ სფეროში.

ამერიკის შეერთებულ შტატებში უკვე მოქმედებს გარკვეული წესები ფედერალური დაფინანსების მქონე მეცნიერებისთვის, თუმცა ეს საკმარისი არ არის. სენატში წარდგენილი ახალი ორპარტიული კანონპროექტი ითვალისწინებს, რომ ქვეყანაში მოქმედმა ყველა მწარმოებელმა უნდა შეამოწმოს კლიენტები და შეკვეთილი პათოგენები.

გასულ წელს Microsoft-ის მკვლევრებმა გამოაქვეყნეს ნაშრომი, რომელმაც აჩვენა, რომ არსებული დამცავი ფილტრები იდეალური არ არის. მათ მიერ გამოცდილმა მოდელებმა შექმნეს საშიში გენეტიკური სტრუქტურები, რომლებმაც გვერდი აუარეს კომპანიების უსაფრთხოების პროგრამებს.

Safe AI Fund-ის პარტნიორმა და Y Combinator-ის ყოფილმა პრეზიდენტმა ჯოფ რალსტონმა დაადასტურა, რომ უსაფრთხოებაზე თავად ლაბორატორიებმაც უნდა იზრუნონ. მისი თქმით, „ძალიან რთული, თუ შეუძლებელი არა, უნდა იყოს მოდელისთვის ისეთი დავალების მიცემა, რომელიც მომენტალურ საფრთხეს შეიცავს“.

დეივიდ რელმენი დასძენს, რომ მხოლოდ გამყიდველების კონტროლი პრობლემას ვერ გადაჭრის. თუ შემოწმების სისტემა სადმე ჩაიშლება, საჭიროა სხვა დამცავი მექანიზმების ამოქმედება. ამ მიმართულებით ტექნოლოგიურმა კომპანიებმა მეტი პასუხისმგებლობა უნდა აიღონ და აქტიური ნაბიჯები გადადგან.