エントリーの編集
![loading...](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/common/loading@2x.gif)
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
Mambaを動かして速度をtransformerと比較するメモ|Kan Hatakeyama
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
![アプリのスクリーンショット](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/entry/app-screenshot.png)
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Mambaを動かして速度をtransformerと比較するメモ|Kan Hatakeyama
昼休み/現実逃避/ことまんば ということで試してみたので書きました。 RTX 4090(24GB)ですと、秒あた... 昼休み/現実逃避/ことまんば ということで試してみたので書きました。 RTX 4090(24GB)ですと、秒あたり109トークンとかでました。 WSL2でkotomamba-2.8B-v1.0を試してみる|ngc-shj @noguchis #note https://t.co/aZ7BUZRjMf — NOGUCHI, Shoji (@noguchis) February 20, 2024 実行コードの部分はこちら。 (ゆくゆく、コードの中身もチェックしたいです。) !python -i -m benchmarks.benchmark_generation_mamba_simple \ --model-name "kotoba-tech/kotomamba-2.8B" \ --tokenizer-path "kotoba-tech/kotomamba-2.8B" \ --tokenize