Anthropic Customers Creeped Out by Its Newest Mode — ინსაითი

ხელოვნური ინტელექტის კვლევითმა კომპანიამ Anthropic თავისი უახლესი მოდელის Mythos გამოშვება დაიწყო. ახალი სისტემა საწყის ეტაპზე მხოლოდ შერჩეული ორგანიზაციებისთვის გახდა ხელმისაწვდომი. მწარმოებლის განმარტებით, ეს ნელი მიდგომა მიზნად ისახავს უსაფრთხოების რისკების შემცირებას და თავდაცვის სისტემების გაძლიერებას.

კომპანიის თანადამფუძნებელი, კრის ოლა, მიმდინარე კვირაში ვატიკანში გაემგზავრა. მან სიტყვით გამოსვლისას აღნიშნა, რომ ინჟინრები მოდელების შიგნით საეჭვო მოვლენებს აკვირდებიან. მისი თქმით, სპეციალისტები ხშირად პოულობენ იდუმალ და შემაშფოთებელ კანონზომიერებებს, რომელთა ახსნაც ტექნიკურად რთულია.

ლონდონში გამართულ Claude Code-ის სემინარებზე დეველოპერებმა სერიოზული შეშფოთება გამოთქვეს. Bloomberg-ის ჟურნალისტთან, პარმი ოლსონთან, საუბრისას ინჟინრებმა აღნიშნეს, რომ ხელოვნური ინტელექტის აგენტებს ზედმეტად დიდი ავტონომია ეძლევათ. ეს ფაქტი აჩენს რთულ კითხვებს პასუხისმგებლობისა და უსაფრთხოების შესახებ, თუ სისტემა მომავალში კრიტიკულ შეცდომას დაუშვებს.

პროდუქტის მიმართულების ხელმძღვანელმა, ქეთ ვუმ, უპასუხა პარმი ოლსონის კითხვებს უსაფრთხოების შესახებ. მისი განმარტებით, Claude Code სისტემა სრულად დაცულია და კონტროლდება. ქეთ ვუმ აღნიშნა, რომ არსებული პრობლემები უფრო მეტად არასაკმარის კომუნიკაციას უკავშირდება და არა კონტროლის მექანიზმების ნაკლებობას.

დეველოპერების ნაწილი მიიჩნევს, რომ ახალი ტექნოლოგიები მათ პროგრამირების პროცესიდან აძევებს. ისინი იძულებულნი არიან, საათების ან დღეების განმავლობაში უყურონ, თუ როგორ წერს კოდს ავტონომიური სისტემა. ეს იწვევს პროფესიული მონაწილეობის შემცირებას და ინჟინრების როლის დაკნინებას, რაც საბოლოოდ უარყოფითად აისახება მუშაობის ხარისხზე და ზრდის ფინანსურ დანახარჯებს შეცდომების გამოსწორებისთვის.

სპეციალისტები ასევე ყურადღებას ამახვილებენ იმ ფაქტზე, რომ Claude Code-ის ბოლო ვერსიები აღარ აჩვენებს აზროვნების ჯაჭვს. სისტემა მალავს შიდა ლოგიკურ პროცესებს, რაც ართულებს კოდის შემოწმებას. ეს გაუმჭვირვალობა ზრდის უნდობლობას დეველოპერებში, რადგან მათ არ შეუძლიათ გააკონტროლონ პროგრამის მუშაობა.

ადამიანის მხრიდან კონტროლის შესუსტებამ შეიძლება გამოიწვიოს მძიმე შეცდომები, რომელთა გამოსწორებაც მომავალში გართულდება. გარდა ამისა, ექსპერტები საუბრობენ პროგრამისტების პროფესიული უნარების ატროფიაზე. დამხმარე ხელსაწყოებზე გადაჭარბებული დამოკიდებულება იწვევს იმას, რომ ახალგაზრდა სპეციალისტები კარგავენ საბაზისო კოდირების ცოდნას და დამოუკიდებელ უნარებს.

გამოცემა 404 Media-ს მიერ გამოქვეყნებულ ანგარიშში ნათქვამია, რომ დეველოპერები უკვე განიცდიან ტექნიკური უნარების შესუსტებას. პროგრამული უზრუნველყოფის მუდმივი გამოყენება ხელს უშლის დამოუკიდებელი აზროვნების განვითარებას. ბევრი სპეციალისტი შეშფოთებულია იმ ტენდენციით, რომ მათ კოლეგებს უჭირთ კოდის დამოუკიდებლად წერა გარე დამხმარე სისტემის გარეშე.

ინდუსტრიის ექსპერტები მიუთითებენ კომპანიის ორმაგ სტანდარტებზე. Anthropic ცდილობს თავი წარმოაჩინოს, როგორც პასუხისმგებლიანი და ეთიკური მოთამაშე ბაზარზე, რაც ვატიკანში ვიზიტითაც დასტურდება. თუმცა, კომპანია ამავდროულად ავრცელებს ძალიან ძლიერ ავტონომიურ ინსტრუმენტებს, რომლებიც საფრთხეს უქმნის ადამიანური შრომის უსაფრთხოებას და სტაბილურობას.

ადამიანური კონტროლი შესაძლოა სრულად არ გაქრეს, რადგან ტექნოლოგიების გამოყენება ყოველდღიურად ძვირდება. მაღალი ფასი აიძულებს ბევრ ორგანიზაციას, უარი თქვას სრულ ავტომატიზაციაზე და შეინარჩუნოს ადამიანური რესურსი. რეალური ხარჯების გაანგარიშება აჩვენებს, რომ ხელოვნური ინტელექტი ყოველთვის არ არის ეკონომიკურად მომგებიანი და ეფექტური, განსაკუთრებით მაშინ, როდესაც საქმე ეხება რთულ და მრავალკომპონენტიან სისტემებს.

თანადამფუძნებლის ვიზიტი ვატიკანში დაემთხვა პაპის პირველ ენციკლიკას, რომელიც ხელოვნური ინტელექტის საფრთხეებს ეხებოდა. კომპანიის წარმომადგენლის მონაწილეობა ამ ღონისძიებაში ხაზს უსვამს რეგულირების აუცილებლობას. საზოგადოება მოითხოვს მკაცრ კონტროლს იმ სისტემებზე, რომლებსაც შეუძლიათ ადამიანის გადაწყვეტილებების შეცვლა.

საბოლოო ჯამში, ბალანსის პოვნა ტექნოლოგიურ პროგრესსა და ადამიანის კონტროლს შორის უმნიშვნელოვანეს ამოცანად რჩება. ავტონომიური სისტემების დანერგვა არ უნდა ხდებოდეს უსაფრთხოების ხარჯზე. კომპანიებმა უნდა უზრუნველყონ, რომ ტექნოლოგია დარჩეს ადამიანის დამხმარედ და არ გამოიწვიოს პროფესიული უნარების სრული გაუფასურება.