エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
無料でZephyr-7BをGoogleColabで動かしてAPIサーバとして使う方法
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
無料でZephyr-7BをGoogleColabで動かしてAPIサーバとして使う方法
これは何ですか? これは、エンドポイントを介して LLM を使用する Jupyter ノートブックです。 これは ... これは何ですか? これは、エンドポイントを介して LLM を使用する Jupyter ノートブックです。 これは llama.cpp、ngrok、そして TheBloke からのモデルを使用しています。基本的な Jupyter ノートブックは zephyr-7b を使用しています。 使い方 [必要条件] Google アカウント(Google Colab 用)https://colab.google.com/ ngrok アカウント https://ngrok.com ステップ 0. 上記のアカウントを作成する ステップ 1. Jupyter ノートブックをコピーする ステップ 2. シークレットキーを作成する Google Colab のサイドバーにキーアイコンがあります。あなたのトークンをシークレットキーとして追加する必要があります。Jupyter ノートブックでは、私は NGROK