Как я довёл расходы на LLM до нуля: почему на бесплатных тарифах параллелизм — враг

Джерело:
Хабрахабр / Захабренные / Тематические / Посты

Дата публікації:
07/06/2026 14:05

Постійна адреса новини:
http://www.vsinovyny.com/12977603

Как я довёл расходы на LLM до нуля: почему на бесплатных тарифах параллелизм — враг

07/06/2026 14:05 // Хабрахабр / Захабренные / Тематические / Посты

Это продолжение первой статьи про Briefka — там я описывал самого бота и базовую архитектуру каскада LLM-провайдеров. За прошедшие 4 месяца бот органически вырос с 59 до 84 пользователей, и именно на этом масштабе бесплатный каскад начал срываться на платного провайдера. Расскажу, почему так вышло и как я вернул расходы к нулю — с цифрами и кодом.

Код ниже — реальные фрагменты из боевого Briefka, слегка сокращённые для читаемости: убраны логирование и сбор статистики.

» Читати повністю

«	Наступна новина з архіву Агенты генерируют код быстрее. Дубли тоже	Попередня новина з архіву "Це кричущі цифри": Лубінець розкрив, скільки людей покинули Україну з початку війни	»