Guidanceレビュー

GuidanceはMITライセンスの言語で、正規表現、文脈自由文法、制御フロー、ツール利用によってLLMの生成を制御します。生成とアプリのロジックを効率よく交互に実行できます。

Guidanceとは

LLMに厳密な構文や文法を守らせつつ、生成やツール利用をプログラムで制御したい開発者向けの制約付き生成ライブラリです。

主な機能

制約付き生成

• 正規表現のパターンに従わせる
• 文脈自由文法に沿って生成
• 生成後に修復せず、トークンごとに構造化応答を作る

プログラムによる制御

• Pythonの制御フローとモデル生成を交互に実行
• 生成した範囲を取得し、変数を再利用
• ツール呼び出しと複数段階の生成処理を組み合わせる

柔軟なモデル選択

• 対応するローカルモデルを使用
• 対応するホスト型APIへ接続
• 対応機能の範囲内で、異なるモデル基盤に同じ生成プログラムを適用

向いている用途

• 文法で制約したLLM出力
• 信頼性を重視したJSONやドメイン固有の形式
• ローカルモデルのアプリ
• ツールを使う生成プログラム
• 研究と高度なエージェント制御

料金

• Open Source： $0 — GuidanceはMITライセンスで提供されます。
• モデル利用： プロバイダーまたはインフラ費用 — 選ぶホスト型APIやローカル推論基盤によって費用が変わります。
• 運用： 自己管理 — デプロイ、評価、稼働状況の把握、拡張はアプリのチームが担当します。

料金や提供状況は変更される場合があります。上記の情報は2026-08-14時点の公式資料で確認しています。

メリット

• 生成後の解析だけでは保証できない構文を、文法の制約で保証できる
• コードと生成を交互に実行し、アプリを細かく制御できる
• ローカルとホスト型のモデル基盤で利用できる
• MITライセンスとソース公開により、実験や本番導入を行いやすい

制約と注意点

• 制約付きデコードの対応はモデル基盤によって異なる
• 大きな形式では文法の設計が複雑になる場合がある
• 構文が正しくても事実が正しいとは限らない
• 開発者向けライブラリであり、エンドユーザー向けのホスト型エージェント基盤ではない

プライバシーと運用上の注意点

Guidanceはアプリのプロセス内で動きますが、データのプライバシーは設定したモデル基盤に依存します。ローカルモデルならプロンプトを管理下の環境に留められます。ホスト型プロバイダーは、アプリが送るコンテキストを受け取ります。

Guidanceの代替候補

主な比較対象はInstructor、DSPy、Pydantic AIです。実行方式、連携範囲、セキュリティ制御、配置方法、保守負担、利用総額を比較してください。

導入の判断

厳密な出力構文、トークン単位の制御、文法が中心的な要件で、生成プログラムを直接定義することに慣れた開発者には、Guidanceが役立ちます。

公式資料

• 公式リポジトリ
• ドキュメント
• ライセンス