# Guidance

Guidance 是采用 MIT 许可证的语言，可通过正则表达式、上下文无关文法、控制流程和工具调用控制大语言模型生成，并高效交替执行生成与应用逻辑。

Canonical URL: https://aiidelist.com/zh/ide/guidance

Language: zh

更新日期: 2026-10-06

## 概览

- 分类: Developer Workflow Tools
- 约束生成库，适合需要 LLM 严格遵循语法，同时以程序控制生成和工具使用的开发者。
- 编辑器基础: Python library
- 平台: Python, Local models, Hosted model APIs
- 开源: 是
- 本地模型支持: 是
- 自带 API 密钥: 是

## 简评

如果精确输出语法、Token 级控制或文法是核心要求，且开发者愿意直接编写生成程序，Guidance 很适合。

## 适合场景

- 基于文法约束的 LLM 输出
- 可靠的 JSON 或领域专用格式
- 本地模型应用
- 可使用工具的生成程序
- 研究与高级智能体控制

## 优点

- 文法约束可以提供事后解析无法保证的语法正确性
- 交替执行代码与生成，可精确控制应用行为
- 适用于本地与托管模型后端
- MIT 许可和源码开放便于试验及生产采用

## 局限

- 无代码 Agent 构建
- 需要完整托管运行时的团队
- 类型化解析器已经足够的简单提取任务
- 后端模型无法高效支持约束的场景
- 不同模型后端对约束解码的支持不同
- 大型格式的文法设计可能很复杂
- 语法正确不代表事实正确
- 这是开发库，而非面向终端用户的托管智能体平台

# Guidance 评测

Guidance 是采用 MIT 许可证的语言，可通过正则表达式、上下文无关文法、控制流程和工具调用控制大语言模型生成，并高效交替执行生成与应用逻辑。

## Guidance 是什么

约束生成库，适合需要 LLM 严格遵循语法，同时以程序控制生成和工具使用的开发者。

## 核心能力

### 约束生成

- 强制遵循正则表达式模式
- 按上下文无关文法生成
- 逐 Token 构造结构化响应，而非生成后再修复

### 可编程控制

- 交替执行 Python 控制流程和模型生成
- 捕获生成片段并复用变量
- 组合工具调用与多步生成程序

### 模型灵活性

- 使用受支持的本地模型
- 连接兼容的托管 API
- 在能力允许时跨模型后端复用同一生成程序

## 适用场景

- 基于文法约束的 LLM 输出
- 可靠的 JSON 或领域专用格式
- 本地模型应用
- 可使用工具的生成程序
- 研究与高级智能体控制

## 价格

- **Open Source：** $0 — Guidance 采用 MIT 许可证。
- **模型使用：** 服务商或基础设施费用 — 成本取决于所选托管 API 或本地推理技术栈。
- **运维：** 自行管理 — 部署、评估、运行观测和扩容由应用团队负责。

价格和可用情况可能调整。以上信息已于 2026-08-14 根据官方资料核对。

## 优势

- 文法约束可以提供事后解析无法保证的语法正确性
- 交替执行代码与生成，可精确控制应用行为
- 适用于本地与托管模型后端
- MIT 许可和源码开放便于试验及生产采用

## 局限与注意事项

- 不同模型后端对约束解码的支持不同
- 大型格式的文法设计可能很复杂
- 语法正确不代表事实正确
- 这是开发库，而非面向终端用户的托管智能体平台

## 隐私与使用注意事项

Guidance 运行在应用进程中，但数据隐私取决于所配置的模型后端。本地模型可将提示词保留在受控基础设施上；托管服务商会接收应用发送的上下文。

## Guidance 替代方案

主要比较对象是 Instructor、DSPy 和 Pydantic AI。应比较执行方式、集成范围、安全控制、部署方式、维护负担和总使用成本。

## 选型建议

如果精确输出语法、Token 级控制或文法是核心要求，且开发者愿意直接编写生成程序，Guidance 很适合。

## 官方资料

- [官方代码仓库](https://github.com/guidance-ai/guidance)
- [官方文档](https://guidance.readthedocs.io/)
- [许可证](https://github.com/guidance-ai/guidance/blob/main/LICENSE)

## 功能

### 约束生成

- 强制遵循正则表达式模式
- 按上下文无关文法生成
- 逐 Token 构造结构化响应，而非生成后再修复

### 可编程控制

- 交替执行 Python 控制流程和模型生成
- 捕获生成片段并复用变量
- 组合工具调用与多步生成程序

### 模型灵活性

- 使用受支持的本地模型
- 连接兼容的托管 API
- 在能力允许时跨模型后端复用同一生成程序

## 价格

open-source

- Open Source: $0 — Guidance 采用 MIT 许可证。
- Model usage: Provider or infrastructure cost — 成本取决于所选托管 API 或本地推理技术栈。
- Operations: Self-managed — 部署、评估、运行观测和扩容由应用团队负责。

价格核对日期: 2026-08-14

## 隐私与数据处理

Guidance 运行在应用进程中，但数据隐私取决于所配置的模型后端。本地模型可将提示词保留在受控基础设施上；托管服务商会接收应用发送的上下文。

## 替代工具

- Instructor
- DSPy
- Pydantic AI

## 资料来源

- [官方网站](https://github.com/guidance-ai/guidance)
- [官方代码仓库](https://github.com/guidance-ai/guidance)
- [官方文档](https://guidance.readthedocs.io/)
- [许可证](https://github.com/guidance-ai/guidance/blob/main/LICENSE)

最近核对日期: 2026-08-14

## 更新记录

- 2026-08-14: 新增为持续开发中的约束生成库，用于结构化输出和工具调用型 LLM 应用。