Google Colab で phi-2 を試す｜npaka

「Google Colab」で「phi-2」を試したので、まとめました。 1. phi-2「phi-2」は、教科書レベルの高品質データセットを使って高性能な小規模モデルを実現しようとするマイクロソフトリサーチの最新のSLM (Small Language Model) です 2. phi-2のモデル「phi-2」は、現在1つのモデルのみが提供されています。 ・microsoft/phi-2 : ベースモデル 3. Colabでの実行Colabでの実行手順は、次のとおりです。 (1) Colabのノートブックを開き、メニュー「編集 → ノートブックの設定」で「GPU」を選択。 (2) パッケージのインストール。 # パッケージのインストール !pip install transformers sentencepiece accelerate bitsandbytes einops(2) トー