Как писать system prompt?

Структура рабочей инструкции: роль модели, задача, формат ответа, запреты — коротко и конкретно, без воды. Стабильную часть держите неизменной между запросами: это помогает и качеству, и кэшированию повторяющихся блоков. Версионируйте промпт в конфиге, а не в коде.

Тестируйте изменения фиксированным набором ваших запросов: статус, время, usage и качество ответов в таблицу. Меняйте одну вещь за раз — иначе не узнаете, что именно помогло.