T10 — Cache-aware 2-part system prompt

{`
export type SystemPrompt = {
  header: string   // static — identity, rules, tool descriptions
  rest:   string   // dynamic — env, git status, skills list
}

// Plugin interface — nhận [header, rest], trả về [header, rest]
// Không được concat thành 1 string — mất cache breakpoint
export type SystemPromptTransform = (
  prompt: SystemPrompt
) => SystemPrompt | Promise<SystemPrompt>
`}

{`
export async function buildSystemPrompt(
  session: Session
): Promise<SystemPrompt> {
  // Base system prompt: header tĩnh
  let prompt: SystemPrompt = {
    header: BASE_IDENTITY + RULES + formatToolDescriptions(session.tools),
    rest:   '',
  }

  // Dynamic content vào rest
  prompt.rest = [
    formatEnvBlock(session.env),
    await getGitStatus(session.cwd),
    formatSkillsList(session.plugins),
  ].filter(Boolean).join('\n\n')

  // Plugin transforms — chỉ được sửa rest, không được sửa header
  for (const plugin of session.plugins) {
    if (plugin.systemPromptTransform) {
      prompt = await plugin.systemPromptTransform(prompt)
    }
  }

  return prompt
}
`}

{`
function serializeSystemPrompt(
  prompt: SystemPrompt,
  provider: Provider
): AnthropicSystemBlock[] | string {
  if (provider !== 'anthropic') {
    // Providers khác: concat thành 1 string
    return [prompt.header, prompt.rest].filter(Boolean).join('\n\n')
  }

  // Anthropic: array of blocks với cache_control trên header
  const blocks: AnthropicSystemBlock[] = [
    {
      type:          'text',
      text:          prompt.header,
      cache_control: { type: 'ephemeral' },
      // ephemeral cache TTL = 5 phút (Anthropic default)
    },
  ]

  if (prompt.rest) {
    blocks.push({
      type: 'text',
      text: prompt.rest,
      // Không có cache_control — tính mỗi call
    })
  }

  return blocks
}
`}

{`
// ❌ Concat tất cả → cache miss mỗi call
function buildSystemPrompt(session) {
  return [
    BASE_IDENTITY,
    RULES,
    formatToolDescriptions(session.tools),
    formatEnvBlock(session.env),         // thay đổi mỗi call!
    await getGitStatus(session.cwd),     // thay đổi mỗi call!
  ].join('\n\n')
  // Bất kỳ thay đổi nhỏ nào → toàn bộ cache invalidate
  // 10-15k token × 100 calls/ngày → chi phí tăng gấp 10
}
`}

{`
// ❌ Plugin inject dynamic content vào header
plugin.systemPromptTransform = (prompt) => ({
  header: prompt.header + '\n\nCurrent time: ' + new Date(),  // luôn thay đổi!
  rest:   prompt.rest,
})
// Đúng: inject vào rest
plugin.systemPromptTransform = (prompt) => ({
  header: prompt.header,  // không thay đổi
  rest:   prompt.rest + '\n\nCurrent time: ' + new Date(),
})
`}

{`
// system.ts — cache-aware 2-part system prompt

export type SystemPrompt = { header: string; rest: string }

export function buildBasePrompt(tools: Tool[]): SystemPrompt {
  return {
    header: [
      IDENTITY_BLOCK,
      RULES_BLOCK,
      formatToolDescriptions(tools),
    ].join('\n\n'),
    rest: '',
  }
}

export async function enrichWithDynamic(
  prompt:  SystemPrompt,
  session: Session
): Promise<SystemPrompt> {
  return {
    ...prompt,
    rest: [
      formatEnvBlock(process.env),
      await getGitStatus(session.cwd),
      formatSkillsList(session.plugins),
    ].filter(Boolean).join('\n\n'),
  }
}

export function toAnthropicBlocks(
  prompt: SystemPrompt
): AnthropicTextBlock[] {
  const blocks: AnthropicTextBlock[] = [
    { type: 'text', text: prompt.header, cache_control: { type: 'ephemeral' } },
  ]
  if (prompt.rest.trim()) {
    blocks.push({ type: 'text', text: prompt.rest })
  }
  return blocks
}
`}