LLMにJSONやソースコードを出力させるStructured Generationの技術 - NTT Communications Engineers' Blog

こんにちは、イノベーションセンターの加藤です。この記事では、大規模言語モデル(LLM)にJSONやソースコードを正しく出力させるための生成手法であるStructured Generationについて紹介します。 Structured Generationとは パーサーを用いた制約手法 正則言語とは 正則言語のStructured Generation 文脈自由言語とは 字句解析について 正則言語+文脈自由言語のStructured Generation まとめ Structured Generationとは 大規模言語モデル(LLM)はよくチャットボットとしての活用が目立ちますが、LLMの入出力を外部のプログラムに繋ぎ込むことでより高度な自然言語処理システムを作ることができます。 例えばOpenAIのCode Interpreter1はLLMをPythonの実行環境と接続することで、ユーザ

[mcddx30]

https://x.com/arr0w_swe/status/1902920380106654072

[misshiki]

“(LLM)にJSONやソースコードを正しく出力させるための生成手法であるStructured Generationについて紹介”

[uehaj]

Structured Generationでよくサポートされる正則言語と文脈自由言語の２種類のパーサーに対して効率的な制約付き生成手法／人間もこれやってるなあ。非常に興味深い

[yarumato]

“プロンプトのような確実性のないものに頼るのではなく、出力候補を、目的のフォーマットに必ず従わせる、制約付き文章生成の手法が最近注目されている。正則言語+文脈自由言語のStructured Generation”

[nnnmmmlll]

正則と正規はどっちかに統一できなかったのか

[hirano1975]

学び

[prjpn]

個人的にめちゃくちゃホットな話題で助かった。