「LangChainとLangGraphによるRAG・AIエージェント［実践］入門」でつまずいたことメモ:2章 - Qiita

第2章 OpenAIのチャットAPIの基礎 StudyCoを運営されている大嶋さん1の担当された章です。 2.1 OpenAIのチャットモデル モデルの説明を読んでいて思ったのは、進化の速度のすさまじさです。 2023年春頃のGPT-3.5 turboの最大トークン数は4,096だったのですが、現在のGPT-4oは128,000です。トークン数を抑えるための苦労が過去のものになってきましたね。 2.2 OpenAIのチャットAPIの基本 値段も同様で、トークン単価が爆下がりしています。ただし、人間の要求もより高度になって消費するトークン数も増えていきますので、コストはあまり変わらずにできることがどんどん高度になる、という形に進むのかもしれません。 2.3 入出力の長さの制限や料金に影響する「トークン」 日本語はトークン数をたくさんつかってしまうというお話がありますが、「なぜ日本語は英語より