気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
note.com/schronekoエントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
0
記事へのコメント0件
- 注目コメント
- 新着コメント
新着コメントはまだありません。
このエントリーにコメントしてみましょう。
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
rinna さんの Qwen2.5 Bakeneko 32B を試す｜ぬこぬこ
では早速 Ollama で試してみます。素晴らしいことに既に量子化されたモデルがあるではありませんか。GGU... では早速 Ollama で試してみます。素晴らしいことに既に量子化されたモデルがあるではありませんか。GGUF をお借りして Ollama から動かしてみます。 実行環境 Mac Studio 2023 Chip: Apple M2 Ultra Memory: 192 GB macOS: Sequoia 15.3 下記のコマンドは Q8_0 のものを使っているので、VRAM が 36 GB 程度必要です。ご自身の環境に応じたサイズのものを選んでください。 ollama run hf.co/rinna/qwen2.5-bakeneko-32b-instruct-gguf:qwen2.5-bakeneko-32b-instruct-q8_0.gguf --verbose "おすすめの日本のアニメについて教えてください。"たとえば Q4_0 を使いたい時は下記のように指定します。これで VRAM
note.com/schroneko
note.com/schroneko
note.com/schroneko
note.com/schroneko
posfie.com
www.businessinsider.jp
www.yomiuri.co.jp
anond.hatelabo.jp
togetter.com
anond.hatelabo.jp
anond.hatelabo.jp
kakakumag.com
anond.hatelabo.jp
dailyportalz.jp
posfie.com
blog.serverworks.co.jp
studyhacker.net
meetscareer.tenshoku.mynavi.jp
studyhacker.net
