Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き @kapper1224 ジャンクノートパソコン16GBメモリにUbuntuとSwapとZramガンヅミしてLLMのrinnaを動かすテスト。 Zram16GBにSwap4GBの合計20GB。 rinnaをCPUで動かすには32GBメモリが必要だと言われている・・・ pic.twitter.com/JtNmAP4kH7 2023-11-05 08:53:53 Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き @kapper1224 Ubuntu上でrinnaをインストールする方法はこちらを参照。 まずpython3とpipとgitがインストールされている事を前提として pip install transformers sentencepiece インストール終わったら、データをhugging
