Guidance 评测

Guidance 是采用 MIT 许可证的语言，可通过正则表达式、上下文无关文法、控制流程和工具调用控制大语言模型生成，并高效交替执行生成与应用逻辑。

Guidance 是什么

约束生成库，适合需要 LLM 严格遵循语法，同时以程序控制生成和工具使用的开发者。

核心能力

约束生成

• 强制遵循正则表达式模式
• 按上下文无关文法生成
• 逐 Token 构造结构化响应，而非生成后再修复

可编程控制

• 交替执行 Python 控制流程和模型生成
• 捕获生成片段并复用变量
• 组合工具调用与多步生成程序

模型灵活性

• 使用受支持的本地模型
• 连接兼容的托管 API
• 在能力允许时跨模型后端复用同一生成程序

适用场景

• 基于文法约束的 LLM 输出
• 可靠的 JSON 或领域专用格式
• 本地模型应用
• 可使用工具的生成程序
• 研究与高级智能体控制

价格

• Open Source： $0 — Guidance 采用 MIT 许可证。
• 模型使用： 服务商或基础设施费用 — 成本取决于所选托管 API 或本地推理技术栈。
• 运维： 自行管理 — 部署、评估、运行观测和扩容由应用团队负责。

价格和可用情况可能调整。以上信息已于 2026-08-14 根据官方资料核对。

优势

• 文法约束可以提供事后解析无法保证的语法正确性
• 交替执行代码与生成，可精确控制应用行为
• 适用于本地与托管模型后端
• MIT 许可和源码开放便于试验及生产采用

局限与注意事项

• 不同模型后端对约束解码的支持不同
• 大型格式的文法设计可能很复杂
• 语法正确不代表事实正确
• 这是开发库，而非面向终端用户的托管智能体平台

隐私与使用注意事项

Guidance 运行在应用进程中，但数据隐私取决于所配置的模型后端。本地模型可将提示词保留在受控基础设施上；托管服务商会接收应用发送的上下文。

Guidance 替代方案

主要比较对象是 Instructor、DSPy 和 Pydantic AI。应比较执行方式、集成范围、安全控制、部署方式、维护负担和总使用成本。

选型建议

如果精确输出语法、Token 级控制或文法是核心要求，且开发者愿意直接编写生成程序，Guidance 很适合。

官方资料

• 官方代码仓库
• 官方文档
• 许可证