dolly-v2-12bという120億パラメータの言語モデルを使ってみた!｜Masayuki Abe

今回は、Databricks社の機械学習プラットフォームで訓練されたdolly-v2-12bという120億パラメータの言語モデルの紹介となります。以前、Cerebralの130億パラメータではGoogle Colabでうまく動かせませんでしたが、今回は動かすことができました。また、本モデルは商用利用も認められているとのことです。 今回は、以下のサイトを参考にしました。 Google Colabで実行するときは、下記のコードを実行しました。 %pip install accelerate>=0.12.0 transformers[torch]==4.25.1 import torch from transformers import pipeline generate_text = pipeline(model="databricks/dolly-v2-12b", torch_dtype=t

[gengohouse]

“dolly-v2-12bという120億パラメータの言語モデルを使ってみた!”