Rinna-3.6B で LangChain を試す｜npaka「Rinna-3.6B」で「LangChain」を試したのでまとめました。 1. Rinna-3.6B「Rinna-3.6B」は、「Rinna」が開発した、日本語LLMです。商用利用可能なライセンスで公開されており、このモデルをベースにチューニングすることで、対話型AI等の開発が可能です。 2. Colabでの実行Google Colab での実行手順は、次のとおりです。 (1) パッケージのインストール。 # パッケージのインストール !pip install transformers sentencepiece accelerate langchain bitsandbytes(2) トークナイザーとモデルの準備。 import torch from transformers import AutoTokenizer, AutoModelForCausalLM # トークナイザーとモデ
