エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
Mistral-7BをGoogleColabで試してみた
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Mistral-7BをGoogleColabで試してみた
この記事はGoogle Colabの無料版T4での動作を確認しています。 なので、requirementはGoogleアカウント... この記事はGoogle Colabの無料版T4での動作を確認しています。 なので、requirementはGoogleアカウントになります Mistral-7Bとは Google Colabで動かすにはGGUFファイルを使用します。 なので、requirementはGoogleアカウントになります。 What is GGUF and GGML? GGUFとGGMLは、特にGPT(Generative Pre-trained Transformer)のような言語モデルの文脈で、推論用のモデルを保存するために使用されるファイル形式です。 TheBlokeさんが公開しているモデルを利用します。 手順は以下の通りです。 ggufファイルをダウンロード llama-cppをインストール モデルをロードする プロンプトを作成 プロンプトでMistral-7Bモデルを呼び出す Jupyter noteb