https github com ggerganov llama cpp releasesの検索結果1 - 2 件 / 2件

• あとで読む

  Fast and Portable Llama2 Inference on the Heterogeneous Edge

  • 16 users
  • www.secondstate.io
  • テクノロジー
  • 2023/11/13

  Fast and Portable Llama2 Inference on the Heterogeneous EdgeNov 09, 2023 • 12 minutes to read The Rust+Wasm stack provides a strong alternative to Python in AI inference. Compared with Python, Rust+Wasm apps could be 1/100 of the size, 100x the speed, and most importantly securely run everywhere at full hardware acceleration without any change to the binary code. Rust is the language of AGI. We cr

  • LLM
  • Rust
  • wasm
  • AI
  • *あとで読む
  • あとで読む

  
• あとで読む

  なんJLLM部 避難所

  • 5 users
  • mercury.bbspink.com
  • テクノロジー
  • 2024/04/04

  0001名無しさん＠ピンキー 転載ダメ (ﾜｯﾁｮｲ e249-iArR)2023/12/17(日) 21:48:59.66ID:???0 !extend::vvvvv:1000:512 !extend::vvvvv:1000:512 AIに色々なことをしゃべってもらうんやで そこそこのデスクトップPC（できれば＋3060 12GB以上）でもなんぼか楽しめるで 自薦・他薦のモデルやツールは>>2以降 本スレ なんJLLM部 ★6 https://fate.5ch.net/test/read.cgi/liveuranus/1701542705/ VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured 0002名無しさん＠ピンキー (ﾜｯﾁｮｲ e249-iArR)2023/12/17(日) 21:50:26.11ID:???0 初心