【HELP ME】Assistants APIで破産しそうになった話｜ニケちゃん

こんにちは、ニケです。 皆さん、Assistatnts APIは使われていますでしょうか？ 巷（私の周り）ではGPTsが流行りに流行ってるのでAssistatnts APIを使用されている方はあまり見かけないですが、今回のDevDayで発表された中でもかなり注目度の高いサービスではないかと思っています。 私も過去に以下の記事を書いているので是非ご覧になってください。 で、個人的にもかなり注目しているAssistatnts APIですが、今回はこれに破産させられそうになったという話です。 Assistants API とは？この説明も3回目です。 下記の公式かnpakaさんの記事がわかりやすいので、そちらを先に読んでもらえると良いかもしれません。 アシスタントAPIは、開発者が多様なタスクを行う強力なAIアシスタントを作れるように設計されています。 アシスタントは、特定の指示を設定することで

[secondlife]

assistants API はthreads履歴のtoken全部送られる仕様なので、うっかり高額請求になる注意

[deejayroka]

“…これもしかして上限（128kトークン）に達するまでスレッドがメッセージを蓄えて続けてるのでは…？”

[at_yasu]

あー、スレッドの分け方…

[shunkeen]

記事の勢いに笑った。いや、笑い事じゃないんだけども。スレッドを小分けにするのが今のところの対策になるのかな。スレッドを切り替えるたびに記憶を失うけど。そのうち読み込み範囲の戦略が選べるようになるかな？

[canadie]

160ドルでは破産できないしDiscordでパブリックにしてたら今までの運用でもありうる話（1人で2万近く使ったことある）

[paradisemaker]

現状の仕様だとサービスには組み込めないな