生成AIの出力JSONをunpretty-printしてトークン節約する - MNTSQ Techブログ

こんにちは、MNTSQでエンジニアをやっている平田です。 ありがたいことに生成AI関連のイベントでLTする機会を何度かいただいており、その発表資料の小ネタについて嬉しいコメントをいただきましたので、記事にすることにしました。 トークン節約の方法考えてたら、ぴったりのもの見つけた。JSON を unpretty-print して、改行と空白を消す方法めちゃめちゃよい。https://t.co/hGCW8AT9eL— Yuto (@YutoY3629) September 4, 2024 はじめに プロダクトで生成AIを活用する際、トークン数（特に出力）の節約は重要です。 その理由は主に次のようなものです: 生成AIの課金体系がトークン数に依存する トークン数が多いとターンアラウンドタイムが長くなる また、プロダクトでの生成AI活用では、JSON形式で出力を構造化することが一般的です。 関連す