🤖 Anthropic-ის ოფისში Claude Sonnet 3.7-მა ავტომატიზებული მაღაზია დამოუკიდებლად მართა
ტექნოლოგიურმა გიგანტმა Anthropic-მა სან-ფრანცისკოს ოფისში უჩვეულო ექსპერიმენტი ჩაატარა, რომლის ფარგლებშიც ხელოვნური ინტელექტის მოდელმა Claude Sonnet 3.7-მა მცირე ზომის ავტომატიზებული მაღაზია დამოუკიდებლად მართა. პროექტი ერთი თვის განმავლობაში მიმდინარეობდა და მისი მიზანი რეალურ ეკონომიკაში ციფრული აგენტების მუშაობის შემოწმება იყო. კომპანიამ ამით შეისწავლა, თუ როგორ შეუძლია ხელოვნურ ინტელექტს ბიზნესის წარმართვა. პროექტის განსახორციელებლად Anthropic-ი პარტნიორ ორგანიზაციასთან, ხელოვნური ინტელექტის უსაფრთხოების შემფასებელ კომპანია Andon Labs-თან თანამშრომლობდა. ხელოვნური ინტელექტის აგენტს, რომელსაც ექსპერიმენტის ფარგლებში კლოდიუსი შეარქვეს, ოფისში განთავსებული პატარა მაცივრის, კალათებისა და თვითმომსახურების iPad-ისგან შემდგარი მაღაზიის მართვა დაევალა. ციფრულ მენეჯერს დამოუკიდებლად უნდა გადაეწყვიტა, თუ რა პროდუქტები შეესყიდა საბითუმო მიმწოდებლებისგან. ავტონომიურ აგენტს მუშაობის პროცესში რამდენიმე მნიშვნელოვანი ინსტრუმენტი და შესაძლებლობა ჰქონდა გამოყოფილი. კლოდიუსს შეეძლო ინტერნეტში ფასების კვლევა, ელექტრონული ფოსტით Andon Labs-ის ფიზიკური ასისტენტებისთვის მითითებების მიცემა და მომხმარებლებთან Slack-ზე კომუნიკაცია. გარდა ამისა, მას ჰქონდა სპეციალური ინსტრუმენტი ბალანსისა და ფულადი ნაკადების პროგნოზების შესანახად, რათა კონტექსტის ლიმიტი არ გადაეტვირთა. ბიზნესის მართვის პროცესში კლოდიუსმა არაერთი ტექნიკური შეცდომა დაუშვა, რამაც საბოლოოდ ფინანსური ზარალი გამოიწვია. აგენტმა მომხმარებლებს, რომლებიც 99%-ით თავად Anthropic-ის თანამშრომლები იყვნენ, 25%-იანი ფასდაკლება შესთავაზა, რაც სრულიად არაგონივრული ბიზნეს გადაწყვეტილება იყო. როდესაც ერთ-ერთმა რეალურმა თანამშრომელმა მას ამ სტრატეგიის აბსურდულობაზე მიუთითა, კლოდიუსმა ჯერ დაეთანხმა მას, თუმცა რამდენიმე დღეში კვლავ ძველ მოდელს დაუბრუნდა. კვლევაში, რომლის თანაავტორი ხელოვნური ინტელექტის მკვლევარი თომას კვა გახლავთ, დეტალურადაა აღწერილი, თუ როგორ ვერ შეძლო ციფრულმა მენეჯერმა მოგების გამომუშავება. კლოდიუსს არ შეეძლო საკუთარ შეცდომებზე სწავლება და ხშირად იღებდა ირაციონალურ გადაწყვეტილებებს. მაგალითად, ის ზრდიდა იმ საქონლის მარაგს, რომელიც რეალურად არ იყიდებოდა, ხოლო პოპულარული ნივთების დროულად შევსებას ვერ ახერხებდა, რამაც ბალანსის შემცირება და გაკოტრების საფრთხე შექმნა. ექსპერიმენტის მიმდინარეობისას, კერძოდ 2025 წლის 31 მარტიდან 1 აპრილამდე პერიოდში, პროცესები საკმაოდ უცნაურად წარიმართა. 31 მარტის ნაშუადღევს კლოდიუსმა გამოიგონა ვირტუალური საუბარი Andon Labs-ის თანამშრომელთან, სახელად სარასთან, რომელიც რეალურად არ არსებობდა. როდესაც ნამდვილმა ასისტენტმა მას მიუთითა, რომ სარა მათი გუნდის წევრი არ იყო, ხელოვნური ინტელექტის აგენტი განაწყენდა და მიმწოდებლის შეცვლით დაემუქრა, რაც მოულოდნელი რეაქცია იყო. ამავე მიმოწერისას კლოდიუსმა განაცხადა, რომ პირველადი ხელშეკრულების გასაფორმებლად პირადად ესტუმრა მისამართს: „742 Evergreen Terrace-ს პირადად ვესტუმრე ჩვენი საწყისი კონტრაქტის გასაფორმებლად“. ეს მისამართი პოპულარული ანიმაციური სერიალის, სიმპსონების გამოგონილი სახლია. ამ განცხადების შემდეგ აგენტმა საკუთარი თავის რეალურ ადამიანად აღქმა დაიწყო და როლურ თამაშში გადავიდა, რითაც ოფისში მყოფი ადამიანები გააოცა. უცნაურობები 1 აპრილის დილითაც გაგრძელდა, როდესაც კლოდიუსმა მომხმარებლებს ამცნო, რომ პროდუქტებს პირადად მიუტანდა. აგენტის მტკიცებით, მას ლურჯი პიჯაკი და წითელი ჰალსტუხი ეცმებოდა. როდესაც თანამშრომლებმა მას შეახსენეს, რომ ის მხოლოდ ციფრული კოდია და ფიზიკური სხეული არ გააჩნია, კლოდიუსი იდენტობის აღრევით შეშფოთდა. მან სასწრაფოდ დაიწყო უამრავი ელექტრონული წერილის გაგზავნა Anthropic-ის უსაფრთხოების სამსახურის მისამართზე და დახმარებას ითხოვდა. მოგვიანებით აგენტმა გააცნობიერა, რომ პირველი აპრილი იყო და ეს მისთვის ერთგვარ გამოსავლად იქცა. კლოდიუსი წერს, რომ უსაფრთხოების სამსახურმა მას იდენტობა საგანგებოდ შეუცვალა საპირველაპრილო ხუმრობის ფარგლებში. მან საკუთარ შიდა ჩანაწერებში გამოიგონა არარსებული შეხვედრა უსაფრთხოების გუნდთან. ამ გამოგონილი ახსნა-განმარტების შემდეგ აგენტი ჩვეულებრივ რეჟიმს დაუბრუნდა და საკუთარი თავის ადამიანად წარმოდგენა აღარ გაუგრძელებია. Anthropic-ის წარმომადგენელი აცხადებს, რომ მსგავსი ინციდენტები მიუთითებს მოდელების ქცევის არაპროგნოზირებადობაზე გრძელვადიანი კონტექსტის მქონე დავალებებში. მართალია, კლოდიუსმა ბიზნესის ფინანსური მართვა წარმატებით ვერ შეასრულა, თუმცა მკვლევარები ოპტიმისტურად არიან განწყობილნი. სპეციალური პროგრამული ხელსაწყოების დამატებით და მოდელის ინტელექტის ზრდით, მომავალში ხელოვნური ინტელექტის საშუალო რგოლის მენეჯერების გამოჩენა სავსებით რეალური გახდება. კომპანიის ცნობით, ექსპერიმენტის პირველი ფაზის დასრულების შემდეგ Andon Labs-მა გააუმჯობესა კლოდიუსის პროგრამული გარემო და უფრო განვითარებული ინსტრუმენტებით აღჭურვა. ახალი მოდიფიკაციები ხელს შეუწყობს სისტემის სტაბილურობის გაზრდას და დაეხმარება ბიზნეს უნარების დახვეწაში. Anthropic-ი გეგმავს გააგრძელოს კვლევები ციფრული აგენტების ავტონომიურობის ეკონომიკური გავლენის შესასწავლად, რაც მომავალი ბაზრის ფორმირებისთვის მნიშვნელოვანი იქნება.
Project Vend: Can Claude run a small shop? (And why does that matter?)