GPT-4, GPT-3.5 の API を利用して JSON だけ生成する (Function calling)

先日 OpenAI API のアップデートが以下のように発表されました。 一番の注目は Function calling じゃないでしょうか？ 名前から「関数を呼び出せるのかな？」と一番最初に想像しちゃいますが、この機能の革新的な部分は「JSON を作成してくれる」ところだと思っています。 JSON を作れると嬉しいことがいっぱいありますね！ ダミーデータの作成 生成した JSON をそのままレスポンスとして返すエンドポイントの作成 テストとしても良い 関数や外部 API の呼び出し 今までは難しかった JSON の作成 今まで、JSON を作成してもらうにあたって gpt-3.5-turbo を用いて JSON を作成させようとするとほぼ失敗していました。それで gpt-4 のモデルを利用して JSON を作成させますが、このモデルはほとんど正確になる一方で処理速度がかなり遅くなる点がネ

[luege_traum]

GPT-3.5でもしっかりしたJSONの定義と、JSONのみを出力することを念押しすれば問題なくJSONになるけどな。プロンプトが悪いのでは？

[nunulk]

語学のための例文生成に 3.5-turbo で JSON 出力してるけど普通にできてる、プロンプトには「以下のフォーマットで出力すること（それ以外は出力しないでください）」と入れてる

[tonkas]

3.5でもJSON確定できるっていう人プロンプト教えて。。。99%とかには持っていけるけど100%は厳しい気がする。。で1%以上のエラー率は辛い。という訳で超朗報！！

[moshimoshi23]

JSONの一例を書くんじゃなくて、必要なkey名と中身の説明を箇条書きで書くと、3.5でもしっかりJSONにしてくれるよ。listの場合は中身のオブジェクトも別で定義。ただ長くなるけど>ブコメ

[takaya030]

fanction calling

[misshiki]

“Function callingの機能の革新的な部分は「JSON を作成してくれる」ところ” なお、ブコメによると以前からプロンプトにフォーマットを指定することでできていたらしい。

[shunkeen]

プログラミング言語で例えると、自作関数と似たような機能で、より安定的に使える組み込み関数が出てきたから、嬉しいよねって話かな？本来の用途からズレてるかどうかで言えば、恒等関数も関数だから、OK感ある。

[mayumayu_nimolove]

お、これ見逃してた。一応これが出る前でも出来てたよ。ただたまにおかしいのが帰ってくるからそこは条件分岐で補正したけど。公式で生成してくれるならそれに越したことない

[knjname]

参照記事でプロンプトによるjson出力の問題点書いてある