ТехноСводка

ИИ

OpenAI увеличила срок хранения кэша промптов в API до 12 часов

OpenAI позволила хранить кэш входного контекста минимум 12 часов вместо стандартных 30 минут, что рассчитано на длительные задачи ИИ-агентов.

Раньше после долгого перерыва кэш мог перестать работать, и модели приходилось заново обрабатывать общий контекст. Теперь его можно повторно использовать и спустя несколько часов, если новые запросы содержат тот же неизменённый префикс.

Для поддерживаемых моделей в Responses API появился параметр prompt_cache_options.ttl со значениями 30m и 12h. Запись кэша на 30 минут стоит 1,25× от обычной цены входных токенов, на 12 часов — 2,5×. Это полная стоимость записи, а не надбавка; чтение кэша тарифицируется по прежней сниженной ставке.

Поэтому 12-часовой режим выгоднее, когда контекст используется повторно спустя несколько часов, но экономию в каждом сценарии он не гарантирует. Для длинных сессий Codex и других агентов с десятками запросов с общим контекстом это может снизить расходы и время обработки.

  • Параметр prompt_cache_options.ttl: 30m или 12h
  • Запись кэша: 1,25× за 30 минут, 2,5× за 12 часов

Источники

Текст подготовлен автоматически по материалам источников и может содержать неточности.