Google Colab で OpenCALM-7B を試す｜npaka

「Google Colab」で「OpenCALM-7B」を試したので、まとめました。 【注意】Google Colab Pro/Pro+ の A100で動作確認しています。VRAMは14.7GB必要でした。 1. OpenCALM-7B「OpenCALM-7B」は、「サイバーエージェント」が開発した、日本語LLMです。商用利用可能なライセンスで公開されており、このモデルをベースにチューニングすることで、対話型AI等の開発が可能です。 2. OpenCALMのモデル「OpenCALM」では、サイズ別に6つの汎用言語モデルが公開されています。 ・cyberagent/open-calm-7b : 6.8Bの汎用言語モデル ・cyberagent/open-calm-3b : 2.7Bの汎用言語モデル ・cyberagent/open-calm-1b : 1.4Bの汎用言語モデル ・cybera

[kane-please]

llm 日本語

[stealthinu]

CAのOpenCALM-7BをColabで動かす方法。めちゃお手軽に試せる。／しかしなにかを演じさせたりするにはさすがにまだパラメータ不足な模様。