💰 Amazon-ის ინჟინრები Anthropic-ის მოდელების დისტილაციას ახდენენ, რათა ტოკენებზე დაფუძნებულ გადახდამდე ხარჯები შეამცირონ
კომპანია Amazon-ის ინჟინრები ფარულად მუშაობენ Anthropic-ის მოდელების დისტილაციაზე, რათა შექმნან უფრო მცირე და იაფი ვერსიები შიდა მოხმარებისთვის. ეს ნაბიჯი განპირობებულია ხარჯების მკვეთრი ზრდის მოლოდინით, რომელიც დაკავშირებულია პარტნიორებს შორის ფინანსური პირობების გადახედვასთან. ტექნოლოგიური გიგანტი ცდილობს შეამციროს დამოკიდებულება ძვირადღირებულ გარე სისტემებზე და საკუთარი ალტერნატივები განავითაროს 2026 წლის განმავლობაში. The Decoder-ის მიერ გამოქვეყნებული ანგარიშის თანახმად, რომელიც ეყრდნობა გამოცემა The Information-ის წყაროებს, Amazon-ს აქვს გარკვეული უფლებები გამოიყენოს Anthropic-ის მოდელები ამ მიზნით. ეს შეთანხმება ჰგავს Apple-ის მიერ Google Gemini-სთან გაფორმებულ კონტრაქტს. თუმცა, Amazon-ის ღრუბლოვან პლატფორმა Bedrock-ზე ხელმისაწვდომი არ არის Claude მოდელების დისტილაცია, იქ მხოლოდ საკუთარი Nova მოდელებია მხარდაჭერილი. ხარჯების შემცირების მცდელობა პირდაპირ კავშირშია კომპანიებს შორის პარტნიორობის ახალ პირობებთან. 2027 წლიდან Amazon-ი Anthropic-ის მოდელების გამოყენებისთვის გადაიხდის დამუშავებული ტოკენების რაოდენობის მიხედვით და არა გამოთვლითი საათების მიხედვით, როგორც ეს აქამდე იყო. ანალიტიკოსების შეფასებით, ამ ახალმა ტარიფმა შესაძლოა მკვეთრად გაზარდოს კომპანიის საოპერაციო ხარჯები, რაც პრობლემებს შეუქმნის შიდა პროექტებს. Amazon-ის პრესსპიკერი სპეციალურ განცხადებაში შეეცადა ვითარების განმუხტვას და აღნიშნა, რომ პარტნიორობის გაფართოება კომპანიისთვის არ გამოიწვევს ფინანსური წნეხის ზრდას. მან განმარტა: „პარტნიორობის გაფართოების შედეგად ხარჯები არ გაიზრდება“. თუმცა, ინსაიდერები მიუთითებენ, რომ ინჟინრების მუშაობა დისტილაციაზე მიუთითებს კომპანიის შიგნით არსებულ რეალურ შეშფოთებაზე, რომელიც ხარჯების ზრდას უკავშირდება. თავის მხრივ, Anthropic-ის წარმომადგენლები აცხადებენ, რომ მათი მოდელების ფასი სრულად შეესაბამება იმ მაღალ ხარისხსა და ეფექტურობას, რასაც ისინი მომხმარებლებს სთავაზობენ. კომპანიის ცნობით, ახალი მოდელები ბევრად უფრო სწრაფი და ეკონომიურია, ვიდრე წინა თაობის სისტემები. მიუხედავად ამისა, Amazon-ის ხელმძღვანელობა მაინც ცდილობს ალტერნატიული გზების მოძიებას ხარჯების ოპტიმიზაციისთვის და ეკონომიის მისაღწევად. ტექნოლოგიური გიგანტების ფინანსური ამბიციები მიმდინარე წელს განსაკუთრებით შთამბეჭდავია. გამოცემის ცნობით, Amazon-მა წელს 25 მილიარდ დოლარამდე დამატებითი ინვესტიცია ჩადო Anthropic-ში, ხოლო OpenAI-ში ამავე პერიოდში 50 მილიარდ დოლარამდე დახარჯა. ასეთი მასშტაბური ხარჯები კომპანიებს აიძულებს მკაცრად გააკონტროლონ თითოეული პროექტის ბიუჯეტი და ეძებონ უფრო ეკონომიური ტექნოლოგიური გადაწყვეტილებები. ხარჯების დაზოგვის მიზნით, Amazon-ი ასევე აქტიურად განიხილავს OpenAI-ის მოდელებისა და საკუთარი ახალი სისტემის, Nova-ს გამოყენებას. კომპანიის მიზანია შექმნას მრავალფეროვანი პლატფორმა, რათა არ იყოს დამოკიდებული მხოლოდ 1 მიმწოდებელზე. თუმცა, საკუთარი მოდელების განვითარება დიდ დროსა და რესურსებს მოითხოვს, რაც მოკლევადიან პერსპექტივაში ვერ შეამცირებს Anthropic-ზე დამოკიდებულებას, რომელიც კვლავ ძირითად პარტნიორად რჩება. მოდელის დისტილაციის პროცესი გულისხმობს მცირე ზომის სისტემის მომზადებას უფრო დიდი და რთული მოდელის გამომავალ მონაცემებზე დაკვირვების გზით. ეს მეთოდი საშუალებას იძლევა მივიღოთ თითქმის იგივე ხარისხის შედეგი ბევრად ნაკლებ ფასად, რაც 2 პარტნიორს შორის თანამშრომლობის ახალ ეტაპზე გადასვლას უზრუნველყოფს. თუმცა, ამ პროცესს ხშირად ახლავს ინტელექტუალური საკუთრების დაცვასთან დაკავშირებული კითხვები. Amazon-ის ღრუბლოვან სერვისებში მოდელების მორგება და დისტილაცია კლიენტებისთვის უკვე ხელმისაწვდომია, თუმცა Claude მოდელებისთვის ეს ფუნქცია კვლავ შეზღუდულია. ექსპერტები ვარაუდობენ, რომ თუ Amazon-ი წარმატებით განახორციელებს Claude-ის დისტილაციას შიდა პროექტებისთვის, ეს მნიშვნელოვნად შეამცირებს მის ყოველთვიურ ხარჯებს. 1 წყარო ადასტურებს, რომ კომპანია ამ მიზნით საუკეთესო ინჟინრების ჯგუფს იყენებს. საბოლოო ჯამში, Amazon-ის მცდელობა შეამციროს ხარჯები, მიუთითებს იმაზე, რომ ხელოვნური ინტელექტის ინდუსტრიაში ფინანსური ეფექტურობა სულ უფრო მნიშვნელოვანი ხდება. კომპანიები, რომლებიც მილიარდობით დოლარს დებენ ტექნოლოგიებში, იძულებულნი არიან იფიქრონ ეკონომიაზე. პარტნიორობის პირობების გადახედვა და შიდა მოდელების განვითარება განსაზღვრავს იმას, თუ როგორ განვითარდება ტექნოლოგიური სექტორი მომავალ წლებში.
Amazon engineers are reportedly distilling Anthropic models to cut costs before new token-based pricing kicks in