Fast and Portable Llama2 Inference on the Heterogeneous Edge
Fast and Portable Llama2 Inference on the Heterogeneous Edge • 12 minutes to read The Rust+Wasm stack provides a strong alternative to Python in AI inference. Compared with Python, Rust+Wasm apps could be 1/100 of the size, 100x the speed, and most importantly securely run everywhere at full hardware acceleration without any change to the binary code. Rust is the language of AGI. We created a very
Rust vs. Go: Implementing a REST API in SQLite
Backend の開発言語選定について、現職では Go を推す声が強い。 なぜなら、現状の技術選定に、規律がないからだ。Java、Python、Ruby、PHP、Node.js、Go、Kotlin and more. Web 業界では、Go が popular になっているし、現職の 2B・2C 向けサービスも Go を多く使っている。 僕個人として、Go を選択することに異論はない。 一方で、次を見据えて考えておく必要もある。 何が言いたいかというと、より最高な選択肢は何かを常に考えていきたい。思考停止は退化。 Rust について、 tutorial gRPC Rust + Wasm + Cloudflare Workers REST と続けてきて、syntax は身について来た。 より実践的な課題を解けるように実践を重ねていく。そして、AtCoder の algorithm 問題につい
職場の中高年「元引きこもり」「双極性障害持ち」「鬱抜け＆鬱再発抜け」対応｜山本一郎（やまもといちろう）
ジジイが多い職場を指揮しているとき、とりわけ「あそこならポンコツを押し付けても大丈夫だろう」的な扱いをされることがあります。気のせいかもしれませんが、職歴は立派なのに何らかの理由で長期経歴に空白があったり、いい歳して大学院中退後勤務履歴が無かったり、見た瞬間「あっ」と察することが多いのです。 作業の仕方を教えていて、呑み込みが早くて優秀なはずなのに、現場に出すと「上手くしゃべれません」とか「声がかけられません」などの話になる。定時の電話連絡をしようにも架電を取ってくれないので何かあったのかと現場に急行してみると引き続き作業はしており、なんで電話を取らなかったのかと聞くと「電話だから取れませんでした」という返答で「あっ」と察するわけです。 別にそういうのって誰もが多かれ少なかれあることだから、仕方がないことだと思うんですよ。無理なものは、無理ですし。異常に繊細な人が本人に向けられたことではな
GPTsでNotion APIを叩くようにしてみたらやばかった
OpenAI の DevDay で発表された、GPTs は、特定のタスクに特化したカスタムモデルを作成できる ChatGPT Plus で利用できる新しい機能です。作った GPTs は、自分だけで使うのはもちろん、友達にシェアしたり。ウェブ上で公開することもできます。 この GPTs の機能である Actions を使うと、OpenAPI Schema を元に、外部 API を ChatGPT エージェントが実行するようになります。 この機能を使って Notion などの様々なサービスと GPTs を繋げてみたので、そのデモと GPTs のつくりかたを解説します。 デモ Notion は、API と呼ばれる開発者が Notion のデータを操作し、外部アプリケーションやサービスと連携するための機能が公開されています。そこで、Notion API の OpenAPI スキーマを書いて検索、デ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
