‘Pretty Crazy’ Token Usage Is Testing Bosses’ Bet — ინსაითი

ტექნოლოგიური კომპანიები სულ უფრო მეტ ყურადღებას აქცევენ ხელოვნური ინტელექტის ტოკენების მოხმარებას, რადგან ახალი თაობის მოდელების გამოყენება ბიუჯეტებს მნიშვნელოვნად ზრდის. ამ ტენდენციას ინდუსტრიაში უკვე უწოდებენ ტოკენომიკას, რაც კომპანიების ხელმძღვანელებს ხარჯების მართვის ახალი გზების ძიებას აიძულებს. ტოკენები წარმოადგენს მონაცემთა იმ მოცულობას, რომელსაც ხელოვნური ინტელექტის მოდელები აანალიზებენ და აგენერირებენ ყოველი მოთხოვნის შესრულების დროს.

საკომუნიკაციო პლატფორმების მწარმოებელმა კომპანიამ, 8x8-მა, ბოლო 18 თვის განმავლობაში $5 მილიარდი დაზოგა იმ პროგრამული და საგანმანათლებლო ხელმოწერების გაუქმებით, რომლებიც Claude-ის დანერგვის შემდეგ არასაჭირო გახდა. კომპანიის ტრანსფორმაციისა და ბიზნეს ოპერაციების ხელმძღვანელმა, ჯოელ ნიბმა, განმარტა, რომ ხელოვნური ინტელექტის წლიური ხარჯი ამ ნიშნულზე ბევრად დაბალია.

ფინანსური დირექტორი კმაყოფილია იმ ფაქტით, რომ ხარჯებსა და რეალურ დანაზოგს შორის ჯერჯერობით დიდი სხვაობაა. ნოვატორული ტექნოლოგიების დანერგვა ზოგჯერ თანამშრომელთა არაეფექტურ მუშაობასაც იწვევს, რაც Amazon-სა და Meta-ში უკვე გამოვლინდა. ამ კომპანიების თანამშრომლები აცხადებენ, რომ ხელოვნური ინტელექტის გამოთავისუფლებულ დროს ხშირად უქმად ატარებენ.

როგორც კომპანიის წარმომადგენლები აცხადებენ, 1 800-ვე თანამშრომელი სპეციალურ დაფაზე აკვირდება Claude-ის მოხმარების დონეს. თუმცა, კომპანიაში უკვე განიხილავენ ლიმიტების დაწესების იდეას. მიზეზი გასულ თვეში Anthropic-ის მიერ გამოშვებული ახალი მოდელი, Opus 4.8-ია, რომელიც თებერვალში წარდგენილ ვერსიაზე 1.7-ჯერ უფრო ძვირია. ხელმძღვანელობამ ეს საკითხი პირველად განიხილა ფინანსურ დირექტორთან ერთად, რადგან შიდა მოხმარების დონე სწრაფად იზრდება.

„ხომ არ შეგვიძლია მოდელის დონის ოდნავ შემცირება ისე, რომ იგივე შედეგი მივიღოთ?“ - აცხადებს ჯოელ ნიბი. მისი ინფორმაციით, მომხმარებელთა კმაყოფილების მაჩვენებლები იზრდება, თუმცა გაყიდვებისა და ფინანსების გუნდები, რომლებიც პერსონალის 28%-ს შეადგენენ, ტოკენების მხოლოდ 15%-ს მოიხმარენ. კომპანიაში ორი წლის წინ ChatGPT-ისა და Gemini-ის გამოყენება დაიწყეს, თუმცა ბოლო პერიოდში Claude მთავარ შიდა სტანდარტად იქცა.

ოპერაციების ხელმძღვანელი იმედოვნებს, რომ ფინანსური გუნდისთვის გამართული ჰაკათონი დაეხმარება მათ მექანიკური პროცესების ავტომატიზაციაში. ოპერაციების ხელმძღვანელი თავად იყენებს Claude-ს ყოველდღიური ელექტრონული წერილების შესაჯამებლად და მოდელის დახმარებით ტოკენების მოხმარება 80%-ით შეამცირა. ეს ელექტრონული წერილები ეხება YouTube-ის გავლენიანი პირებისგან მიღებულ ტექნოლოგიურ რჩევებს, რომლებსაც Claude დამოუკიდებლად აჯამებს.

სხვა ტექნოლოგიური გიგანტები, როგორიცაა Meta და Uber, ასევე გამოთქვამენ შეშფოთებას ხარჯების ზრდის გამო და ზოგიერთ დეპარტამენტში ლიმიტები დააწესეს. Royal Bank of Canada-ის აღმასრულებელმა დირექტორმა კი აღნიშნა, რომ ბოლო ექვს თვეში ტოკენების მოხმარება 500%-ით გაიზარდა. კომპანიები ცდილობენ შექმნან ან შეიძინონ სისტემები, რომლებიც ავტომატურად შეარჩევს ყველაზე იაფ მოდელს კონკრეტული ამოცანის შესასრულებლად.

Cisco-ს ხელმძღვანელმა, ჩაკ რობინსმა, ერთ-ერთ საანგარიშო კონფერენციაზე დაადასტურა: „ტოკენების მოხმარება საკმაოდ გიჟური ხდება.“ Amplitude-ის ხელმძღვანელმა, სპენსერ სკეიტსი კი დასძინა, რომ წამყვანი ინჟინრები თვეში ათასობით დოლარს ხარჯავენ ტოკენებზე, ხოლო Box-ის ხელმძღვანელმა, აარონ ლევინმა, ამ თემას ერთ-ერთი ყველაზე ცხარე განხილვის საგანი უწოდა. მისი შეფასებით, ტოკენების ბიუჯეტირება დღეს კომპანიების უმთავრესი საზრუნავია.

აპრილსა და მაისში გამართულ საანგარიშო შეხვედრებზე ტოკენების ხარჯი დაახლოებით 300-მა კომპანიამ ახსენა. ეს მაჩვენებელი გასული წლის ანალოგიურ პერიოდში მხოლოდ 93-ს შეადგენდა. ანალიტიკური პლატფორმის, AlphaStreet-ის მონაცემები ამყარებს მოსაზრებას, რომ ტოკენომიკა ბიზნესის ახალი გამოწვევაა. კომპანიები ცდილობენ იპოვონ ბალანსი ახალი კადრების აყვანასა და ტოკენების ბიუჯეტის ზრდას შორის.

ტანსაცმლის ბრენდმა, Baseball Lifestyle 101-მა, რომელიც წელს $250 მილიონის გაყიდვებს ელოდება, 50 წამყვან მენეჯერს დაავალა ყოველთვიურად ხელფასის 20%-ის ოდენობის ტოკენები გამოიყენონ. კომპანიის სტრატეგიის ხელმძღვანელმა, ბილ რომმა, მიუთითა, რომ Claude-მა მათ $1 მილიონიანი შეკვეთის მოპოვებაში დაეხმარა. ხელოვნურმა ინტელექტმა დამოუკიდებლად შენიშნა, რომ ერთ-ერთ საცალო მაღაზიაში პოპულარული შორტების ზომები იწურებოდა.

ბილ რომმა განაცხადა, რომ ტოკენების ყოველთვიური ხარჯი წლის ბოლოსთვის $100 000-ს გადააჭარბებს. თუმცა, იგი მიიჩნევს, რომ ეს ინვესტიცია სრულად ამართლებს: „ეს არის დღენახევრის სამუშაო, რომლის შესრულებაც ახლა ერთ ან ორ საათშია შესაძლებელი.“ კომპანიაში Claude-ს იყენებენ ფინანსური რეპორტების მოსამზადებლად და ფოტოსესიების დასაგეგმად, რამაც უმცროსი სპეციალისტების აყვანის საჭიროება შეამცირა.

ჯოელ ნიბი მიიჩნევს, რომ თანამშრომლებს მეტი პასუხისმგებლობა სჭირდებათ, რათა დაზოგილი დრო უფრო პროდუქტიულად გამოიყენონ. მისი შეფასებით, AI ხელსაწყოების სრულყოფილი ათვისება თანამშრომლებისთვის კარიერული ზრდის ერთადერთი გზაა. ხელმძღვანელი აფრთხილებს თანამშრომლებს, რომ ტექნოლოგიური პროგრესის იგნორირება პერსონალის პროდუქტიულობას დააზარალებს და კარიერულ ჩამორჩენას გამოიწვევს.