
6 min czytania
Milion tokenów kontekstu to nie milion tokenów uwagi
Chroma przetestowała 18 czołowych modeli i pokazała, że jakość odpowiedzi spada wraz z długością wejścia, nawet przy prostych zadaniach. Co to znaczy dla sposobu, w jaki Twój zespół buduje prompty.
- Inżynieria kontekstu
- Jakość kodu