Model z otwartymi wagami ma dziś najlepszy wynik w Terminal-Bench 4.0. Same jego wagi zajmują jednak około 1400 GB. Co się zmieniło w modelach lokalnych i jak to sprawdzić u siebie.
Opus 5.5 ma tańszy cennik niż Opus 5, a na najwyższym poziomie myślenia kosztuje tyle samo. Porównuję nowe modele po koszcie zadania i zużyciu tokenów, a nie po cenie za milion.
Agent przy każdym kroku wysyła modelowi całą dotychczasową historię. Liczę na oficjalnym cenniku, skąd bierze się rachunek, ile zmienia cache i które decyzje obniżają koszt najbardziej.
Zmierzyłem pięć tokenizatorów na oficjalnym polskim i angielskim tekście AI Act. Polska wersja zużywa od 1,6 do 2,1 raza więcej tokenów. Pokazuję, skąd ta różnica i co z nią zrobić.