完全フリーで3GBのVRAMでも超高速に動く14B大規模言語モデルRWKVを試す｜shi3z
Transformerは分散できる代償として計算量が爆発的に多いという不利がある。 一度みんなが忘れていたリカレントニューラルネットワーク(RNN)もボケーっとしている場合ではなかった。 なんと、GPT3並の性能を持つ、しかも完全にオープンな大規模言語モデルが公開されていた。 そのなもRWKV(RuwaKuvと発音しろと書いてある。ルワクフ?) RWKVはRNNなのでGPUメモリをそれほど大量に必要としない。 3GBのVRAMでも動くという。 時間がない方はビデオをご覧ください 僕の失敗は、何も考えずにgit lfs installでディレクトリごとコピーしようとしたこと。 このディレクトリには過去のモデルデータが全部あるので、ひとつ30GBのモデルデータを何十個もダウンロードしようとしていて終わらなかったのだ。 モデルデータは一とつあれば十分なのでひとつだけにする。 次に、chatのリポ
完全テレワークから半分出社に変わった - まなめはうす
2023年はまだ１回しか出社してなかったが、先週今週で５回出社することとなった。今後も当分は半分出社になりそう。 【睡眠】寝る時間・起きる時間に変化なし。 【食事】朝ごはんはパン＋サラダから納豆ご飯に変わった。昼・夜嫁手料理から、昼おにぎり＋惣菜パン、夕惣菜パン＋夜食に変わった。バランス悪い食生活になった。仕出し弁当屋が職場近辺に欲しい… 【服装】スーツに着替えるのが面倒。 【昼寝】出社すると横になって昼寝できないの苦痛でしかない。あと歯磨きもできない。細かなところでできないことがあるな… 【通勤】通勤時間で強制的に読書する時間が確保された。完テレワ時は深夜とか土日とかにまとめて読んでた。 【会議】ヘッドセットは自宅にある無線のが楽。職場ＰＣはbluetooth対応してないので使えないの悲しい。 【飲み物】出社するとお茶と炭酸水を買って出社するので体に悪くない。自宅にいるとコーヒーとコーラ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
