初心者が言語モデルを勉強するための本（2023年6月版） - ぱたへね
流行のLLMを勉強したくて沢山本を読みました。 この後もしばらくLLM（GPT）関係の出版が続きそうなので、現状の本でまとめてみました。 参考： nowokay.hatenablog.com まとめ。 Transformerの仕組みを知りたい人で、画像のDeep Learningなら分かるって人はVision Transformer入門 言語モデルをデータセットを作る所からやってみたい人には、作ってわかる! 自然言語処理AI とにかくすぐに動かしたい人には、機械学習エンジニアのためのTransformers ビジネス的に何ができるのかを知りたい人はBERT入門 Vision Transformer入門 Vison Transformerになっていますが、Transformerの説明がとても詳しくお勧めです。実際に写経してパーツパーツで動かせるのはこの本だけ。Transformer一点突破な
pdf2audiobook - ぱたへね
Twitter で気がついた佐藤さんのpdf読み上げシステムの動画を見ました。 Google I/Oが5/18 - 20にオンライン開催。私はpdf2audiobookデモ紹介とMLOps AMAで参加します！ #gcpja https://t.co/tLpBgTB4Xo— Kazunori Sato (@kazunori_279) 2021年4月7日 www.youtube.com PDFをテキストにして読み上げサービスを使用して音声ファイルに変換しています。 このシステムで使用しているGoogleのテクノロジーです。ひとつひとつは聞いたことあります。 Cloud functions Cloud Storage OCR with Vision API AutoML Table Text to Speech ここで上手いなと思ったところがAutoML Tableによるtext（paragr
数理最適化: Optimization Night #1 - ぱたへね
15日に行われた数理最適化の勉強会に行ってきました。 会場はブレインパッド様の部屋をお借りしました。いつもありがとうございます。 動画はこちらから見ることができます。素晴らしい。 www.youtube.com 技術書典を支える最適化技術 sfujiwaraさんの発表です。 発表資料はこちらで見れます。 speakerdeck.com 技術書典というイベントでのブースの配置を最適化する話です。最適化の余地を残すところと、ハイパーパラメータの調整はやりたくないのバランスを取るところが面白そうでした。 ブースの分類にRubyと機械学習の両方タグがあった場合、Rubyの島に入れるのか、機械学習の島にいれるのか自動で判別するのが難しい問題。会場から上がったRubyの方が愛を感じるからRubyでしょに対して、sfujiwaraさんがそれが人間の判断じゃんと返したところが面白かったです。愛をどう特徴量
FPGAキットで始めるハード&ソフト丸ごと設計 - ぱたへね
FPGA本ラッシュの最後の本、FPGAキットで始めるハード&ソフト丸ごと設計: CPUと周辺回路を作り込んでCプログラミングを読みました。とても面白かったので紹介します。全体的にソフトウェアの方が説明少なめで、ハードウェア（特にシステムアーキテクチャ）は丁寧に説明してあります。 内容 オープンソースなプロセッサLEONをFPGAに実装し、リアルタイムなJEPGデコードシステムを動かしていく本です。 最初にLEONの簡単な説明と、LEONシステムのコンフィグレーションの説明があります。LEONシステムには設定用のGUIがついているとはいえ、煩雑な設定の説明があるのはうれしいです。FPGA上で動くLinuxを起動させるところまでが第一部です。 第2部からはJPEGフォーマットの詳しい説明と、アルゴリズムのFPGAへの実装方法が詳しく説明されています。まずはPC上のLinuxでmotionJPE
FPGAでエクストリームなコンピューティングの会 - ぱたへね
FPGAでエクストリームなコンピューティングの会という謎の勉強会に呼ばれたので参加してきました。僕も発表する予定だったのですが、時間が取れず今回は発表無しでした。時系列ｇｄｇｄで感想を。 FPGAで証券取引の話がとても面白かったです。話を聞くまでは証券取引の記事にでてくる数msというのがFPGAだったら余裕で、FPGAなめんなと思っていました。FPGAの中にCPU乗せてCで書いたアルゴリズムがCPU上で走っているのかなと勝手に想像していました。しかし、良く話を聞いていると、msは発注するまでの許容時間の話で、実際にFPGAとして応答しないといけない時間は20us程度、結構厳しい速度ですね。ふと確認したら高位合成のHandel-Cで有名なセロクシカが、完全に金融に移行していて驚きました。 FPGAでWebサーバとFPGAで高速のデータベース処理は、いまいち使われている技術の違いが分かりません
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
