Рубрика
Контекстное окно, переполнение, компрессия, RAG - и цена каждого решения в токенах.
«Агент забыл, о чём мы говорили» - за одной фразой стоят четыре разных механизма, и лечатся они по-разному. Разбираем, что занимает контекстное окно, почему заявленный миллион токенов не равен доступному и сколько на самом деле стоит русский текст.