OpenRouter: за октябрь прошло 790 трлн токенов LLM
OpenRouter, платформа для доступа к моделям разных компаний через единый API, собрали свежую сводку по использованию моделей за январь–октябрь 2026 года. Только за октябрь через неё прошло 790 трлн токенов. Это почти в 25 раз больше, чем в январе, и на 37% больше сентябрьского объёма. В отчёте можно посмотреть, кто потребляет эти токены, как изменилось использование кэша и что происходит с открытыми и закрытыми моделями. Ниже основные цифры. На агентов приходится 76% токенов. За октябрь это около 600 трлн. Годом ранее доля агентного трафика составляла 8%. OpenRouter определяет тип использования по поведению API-ключей: частоте вызова инструментов, длине цепочек взаимодействий, интервалам между запросами и другим сигналам. Здесь считаются входные и выходные токены. Поэтому 76% не означает, что агенты создают столько же уникального текста: в длинной сессии один и тот же контекст может отправляться модели много раз. Кэш стал работать заметно лучше. Медианная доля попаданий в кэш у провайдеров выросла с 76,1% в июне до более 90% в октябре. Показатель отражает долю входных токенов, обслуженных из кэша, в агентном трафике вошедших в выборку провайдеров. Доля открытых моделей просела до 52%, но быстро восстановилась. Просадка в платных токенах пришлась на неделю 28 сентября, когда вышли Opus 5.5, Sonnet 5.5 и GPT-6.1 Sol. Через две недели доля снова превысила 70%. Восстановиться помог DeepSeek V4.1 Flash. Средняя стоимость токенов падает и у открытых, и у закрытых моделей. С января фактические расходы на миллион токенов закрытых моделей снизились с до 0,52, открытых с до 0,084. Это снижение примерно на 57% и 70% соответственно. Речь о суммарных начислениях, разделённых на объём входных и выходных токенов. На результат влияют тарифы, попадания в кэш и выбор моделей. Отдельная модель может подорожать, а средняя стоимость миллиона токенов на платформе при этом снизиться. Для оценки стоимости конкретного проекта всё равно нужно учитывать его модели и характер нагрузки. По росту объёма впереди Z.ai и DeepSeek. С мая месячное потребление токенов их моделей выросло примерно в 20 и 12 раз соответственно. База сравнения здесь именно май: переносить эти коэффициенты на начало года нельзя. Для сравнения: прошлогоднее исследование было основано на 100 трлн токенов. А сейчас только за октябрь через платформу прошло почти 800 трлн! Если новость понравилась, приглашаю в канал AI for Devs. Каждый день публикую похожие материалы: новые модели, агенты, практические кейсы и новости из мира AI.