概要 この記事では、ChatGPT の API を利用してプロダクトを開発するために必要な基礎知識を解説します。 ChatGPT プラグインや LangChain などの仕組みを理解し、ライブラリに頼らなくても実装できるようになることを目指します。 ChatGPT API の裏側 ChatGPT で会話をしている時、返答が一気に全て表示されず、徐々に出てくるのを不思議に思ったことはないでしょうか。これは単なる視覚的な演出ではありません。実際に一単語ずつ時間をかけて生成されています。 基礎となる GPT のモデルは、入力されたテキスト (プロンプト) の次に来る確率が高い単語を予測します。 このモデルをもとにして ChatGPT がどう実装されるのか、順を追って見ていきましょう。 Completions OpenAI の API には、プロンプトに続く文章を補完してくれる Completio