WasmでLLMが動く仕組みの解説
この記事は WebAssembly Advent Calendar 2023 16日目の記事です。 はじめに 先日、次のブログでWasmEdgeを使ってLLMを動かすことができることを知りました。 以前RustでWasm Runtimeを実装した身として、どのような仕組みで動いているのか気になって調べたので、その仕組について解説してきます。 前提知識について 解説するまえに、いくつかの前提知識について解説していきます。 Wasmでの関数呼び出し Wasmではモジュール内に定義した関数を呼ぶことはもちろんできますが、モジュール外部の関数をimportして呼び出すこともできます。 たとえば、次のWATはcalcというモジュールからdoubleという関数をimportして使うことができます。 (module (import "calc" "double" ;; importするモジュールと関数
Vimにおけるカーソル移動の効率化
初めに 最近Vimにおけるカーソル移動の効率化について少し考えていて、自分なりに どんなカーソル移動方法があるのか？ それぞれのメリット・デメリットは何か？ について整理&改善をしたくて、この記事を書きました。 後半にカーソル移動の改善のために作ったプラグインの紹介もあるのでぜひ最後まで読んでみてください。 テキストの編集の動作について 基本、どんなエディタでもテキストを編集するのに次の動作を繰り返すと思います。 移動先の座標を認識（目で見て脳で認識） キーボード・マウスを使ってカーソルを対象の座標に移動 対象のテキストを編集（カット・置き換え・削除など） これらの動作を前提、どんなカーソル移動の方法があるかについて整理していきます。 マウスによるカーソル移動 多くの人はマウスを使用しているかと思うので、こちらの方法はもっとも一般的といえるでしょう。 個人的に、マウスにおける最大のメリット
新しい docker compose
初めに docker composeが使えるようになったので、それについて書いていきます。 正式名称はDocker Compose CLIです。 動作検証した環境は次のとおりです。 $ docker version Client: Cloud integration: 1.0.14 Version: 20.10.6 API version: 1.41 Go version: go1.16.3 Git commit: 370c289 Built: Fri Apr 9 22:46:57 2021 OS/Arch: darwin/arm64 Context: default Experimental: true ... Docker Compose CLIとは 簡単にいうとdocker-composeのGo実装です。docker-composeと互換しています。 docker-composeに置
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
