Среда, 6:14 утра. Тема письма от CFO Прии — заглавными буквами: 'ЧТО СЛУЧИЛОСЬ С INFERENCE COST'. Матео пересылает его тебе в 6:17 с пометкой 'кай ночью читал тред в твиттере'. Открываешь дашборд. Вчерашние расходы — в 3.1 раза выше понедельника. Трафик тот же, промпты те же, модели те же — но регулятор другой. Кай, заряженный каким-то тредом про 'всегда ставь reasoning_effort=high в проде', в 23:00 переключил каждый промпт Sentinel на `reasoning_effort=high`. Промпты реального времени теперь отвечают 12 секунд. Врачи уходят обратно в Notion, потому что резюме всё ещё не готово, когда они выходят из кабинета. Ночной батч-суммаризатор, у которого есть целая ночь на рассуждения, тоже стоит на `high` — формально нормально, но абсолютно бессмысленно. Сегодняшний урок — сам регулятор: reasoning effort, extended thinking, chain-of-thought. Это регуляторы, а не настройки по умолчанию. У каждого продакшн-промпта есть главное ограничение, и регулятор следует из ограничения — а не из треда.
Чему ты научишься
- Осознанно выбирать уровень reasoning_effort, опираясь на явно названное ограничение
- Отличать задержку от tool-use и задержку от thinking-budget в трейсе сессии
- Аргументировать противоположные значения регулятора для разных задач (реальное время vs ночной батч), используя один и тот же треугольник
- Понимать, когда `none` (без рассуждений) — правильный выбор для прода
- Сравнивать явный chain-of-thought с silent extended thinking по соотношению цены и качества
- Писать eval-кейсы, которые реально различают два соседних значения регулятора
Твоё первое задание
Батч Кая — 'всё на high'.
В 8:30 утра ты садишься рядом с Каем, в руках два кофе. 'Покажи, что ты запускал ночью.' Он открывает терминал. Последние часы он гонял одни и те же три дашборд-промпта по кругу, чтобы 'почувствовать качество'. Лог задержек ползёт вниз. Кай в растерянности — он ожидал, что высокий reasoning сделает модель умнее, а не медленнее. Он тычет в одну строчку: 'видишь, эти 14 секунд — это tool call, а не thinking, просто база данных медленная'. Матео, стоящий в дверях, поднимает бровь.
Что предстоит ответить
Прочитай сессию Кая. Какой диагноз ты ему поставишь?
Бесплатно · без карты · сохраним прогресс
Сохрани прогресс и получи сертификат
Ты увидел начало — продолжай бесплатно. 7 заданий · авто-проверка · закончи за 60 мин, и сертификат твой. Бесплатно навсегда · без карты.
Без пароля. Чтобы войти с телефона, запроси код на почту на странице входа.
Уже начинал? Войди по коду из письма