気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
18users
がブックマーク
2
2
GitHub - lyogavin/airllm: AirLLM 70B inference with single 4GB GPU
18 users
github.com/lyogavin
github.com/lyogavin
記事へのコメント2件
- 注目コメント
- 新着コメント
stealthinu
4GBでLlama3 70Bが動くといううりなんだけど、なんでそんなことが可能になってるんだろう？事前quantize不要と書かれてるが内部でquantizeしてる感じ／transformerのレイヤごとに計算してるらしい。動くが遅い
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
GitHub - lyogavin/airllm: AirLLM 70B inference with single 4GB GPU
You signed in with another tab or window. Reload to refresh your session. You signed out in anoth... You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
kai-you.net
macaro-ni.jp
hatena.co.jp
www.lifehacker.jp
p.hatena.ne.jp
togetter.com
blog.inorinrinrin.com
hatenaparks.hatenastaff.com
hatenaparks.hatenastaff.com
www.online-mega.com
jinseiwotanosiku.blog.jp
levtech.jp
levtech.jp
www.e-aidem.com
suumo.jp
2024/11/05 リンク