先日ChatGPTのAPIを使って作ったサービス AIバトラー をリリースしましたが、その時に色々問題があってサービスを一時停止したりなどしていますのでサービスを作る時に注意する点をまとめておきます。 上限解放申請をしておく ChatGPTにはデフォルトで月120ドルまでの利用上限がついています。予想以上のアクセスがあった場合にはこれによってサービスが止まってしまい、どうしようも手の打ちようがなくなってしまいます。 申請することで上限解放することができます。使う使わないにしろ事前にやっておきましょう。下記画面のRequest increaseでできます。 費用の上限を決めたい時は別途それの設定もありますので問題はありません。 節約する 最初は適当に作ってしまいがちですが、トークンを節約する方法も最初から意識しておきましょう。英語で指示を出すとか、無駄な文言をなるべく省くなどで節約できます。
