Что изменилось: Саймон Уиллисон подсчитал токены: один и тот же длинный запрос занимает у Haiku 5.5 примерно на 25% больше токенов, чем у Haiku 4.5. Прошлый пост

Саймон Уиллисон проверил языковую модель Claude Haiku 5.5 своим счётчиком: один и тот же длинный запрос занял примерно в 1,25 раза больше токенов, чем у Haiku 4.5. Токены — фрагменты текста, по числу которых рассчитывают стоимость запроса.

Ранее мы писали о выходе Haiku 5.5 со сниженной ценой. Для запросов длиннее 100 тысяч токенов цена за миллион входных токенов растёт с $0,10 до $0,50, а за миллион выходных — с $0,50 до $2,50.

Проверить число входных токенов до запуска запроса можно командой llm anthropic count в llm-anthropic, дополнении для работы с моделями Anthropic из командной строки.

Проверка утверждений:

  • По измерению Саймона Уиллисона его счётчиком Claude Token Counter, один и тот же длинный запрос занимает у Haiku 5.5 примерно в 1,25 раза больше токенов, чем у Haiku 4.5. (подтверждено самой публикацией: доказательство; «My Claude Token Counter tool shows that the same long prompt uses around 1.25x as many tokens with Haiku 5.5 compared to Haiku 4.5, so there’s a hidden price increase there.»)
  • Claude Haiku 5.5 вышла со сниженной ценой по сравнению с Haiku 4.5. (подтверждено самой публикацией: доказательство; «Haiku 5.5 is available at a much lower price than Haiku 4.5.»)
  • Для запросов длиннее 100 тысяч токенов цена Haiku 5.5 за миллион входных токенов растёт с $0,10 до $0,50, а за миллион выходных — с $0,50 до $2,50. (подтверждено самой публикацией: доказательство; «Price per 1 million tokens Haiku 5.5 prompts up to / over 100k Haiku 4.5 Sonnet 5.5 Cache reads $0.01 / $0.05 $0.10 $0.10 Cache writes $0.125 / $0.625 $1.25 $2.50 Input tokens $0.10 / $0.50 $1.00 $2.00 Output tokens $0.50 / $2.50 $5.00 $10.00»)
  • В llm-anthropic команда llm anthropic count считает входные токены запроса без его запуска. (подтверждено самой публикацией: доказательство; «New llm anthropic count command, which uses the token counting API to count the input tokens for a prompt without running it.»)

Публикации:

Первоисточники:

оценка 60,5 из 100 · тип: релиз