POINT 特定の目的や事業ドメインに即してLLMを用いるためにはFine Tuningが必要 数千億パラメーターを持つLLMをFull Fine Tuning(Full FT)によって再学習するのは時間的にもコスト的にも現実的ではないため、効率的な再学習アプローチの検討が必要 ChatGPT*1がリリースされて以来、大規模言語モデル(LLM)が世界中から注目を集めています。 ChatGPTやBERTなどのモデルは、膨大なテキストから一般的な言語知識を獲得し、さまざまなタスクに対応できる能力を持っています。例えば、ChatGPTやAlpaca*2などのLLMは、要約、翻訳、分類、生成などの多くのタスクを行うことができます。 しかし、LLMをそのまま利用するだけでは、特定の目的や自社のビジネスに適した性能を発揮するとは限りません。LLMが学習しているのはWEB上で得られるデータやデータ化され