模型路由策略：在质量、延迟和成本之间做工程取舍

一个 AI 产品里通常不该只有一个模型。分类、改写、复杂推理、代码分析、长文档总结，对质量、延迟和成本的要求不同。OpenAI 的模型文档把不同模型用于不同能力和场景，实际工程里可以进一步抽象成路由策略。[route-001]

先给任务分级

可以按风险和复杂度分三档：

模型路由不是追求“永远用最强模型”，而是让任务拿到足够好的模型。

概念配置：

{
  "task": "citation_check",
  "default_model": "accurate",
  "fallback_model": "fast",
  "max_latency_ms": 8000,
  "requires_evidence": true
}

路由策略必须和评估集绑定。每换一个模型或阈值，都要观察失败样本、解析失败率、延迟和成本。否则路由很容易变成拍脑袋配置。

综合模型选择和评估资料可以推断：模型路由是一层产品策略，不是简单 if else。它需要指标、日志和回滚机制支撑。