【MLIR】GPU上で走る自作言語のコンパイラを作っている話
この記事は、KCS アドベントカレンダー 23 日目の記事です。 22 日目・24 日目 GPU 上で走る自作言語のコンパイラ こんにちは、lemolatoon です。 最近は、夏に自作 OS ゼミでセキュキャンに参加したりして、また低レイヤへの気持ちを高めたりしていました。 自作 OS も一段落ついた頃、MLIRというものを知り、何やら面白そうだぞということで色々調べて手を動かしたりしていたのですが、ある程度 MLIR の利点を生かしたいい感じのものができつつあるので紹介したいと思います。 まず最初に自作言語を作る手順を、LLVM IR に変換するところまで説明します。 その後、GPU 上で走らせる部分について書きます。 実装は、すべて以下のリポジトリにあります。LLVM IR への変換は少なくともch6ブランチに、GPU 上で走らせる部分の実装はlower-to-gpuブランチにありま
PowerShell 使い方メモ - Qiita
コマンドプロンプトと同じ要領でコマンドが入力できる。 コマンドレット PowerShell では、コマンドのことを コマンドレット と呼ぶ。 コマンドレットは、 <動詞>-<名詞> の命名規則に従って定義されている。 例えば、 Get-Content とか、 Get-Date のような感じ。 エイリアス 「フォルダを移動するときのコマンドレットは、 Set-Location です」 と説明すると、 100 人中 190 人くらいは「ありえへん！」と感じ、 PowerShell を勉強する気が失せると思う。 さすがにフォルダ移動するたびに Set-Location と入力してると自殺したくなるので、 PowerShell にはデフォルトでエイリアスが定義されている。 Set-Location のエイリアスは、 cd と chdir と sl が定義されている。 なので、 cd <移動先のパス
Zero-shot Learning網羅的サーベイ：CLIPが切り開いたVision & Languageの新しい世界 - エクサウィザーズ Engineer Blog
こんにちは！ 画像システムグループで機械学習エンジニアをやっている小島です。 この記事では、今ホットな「Zero-shot Learning」と「Vision & Language」に関する最新情報を、CLIPという研究を起点として網羅的にサーベイをしていきます。このために論文1000本に目を通し、70本程度を記事にしました。 Zero-shotやVision & Languageは、Stable Diffusionに代表される画像生成AIとも密接に関連している技術です。この記事を通して、Vision & Languageの奥深い世界を体感できるでしょう。 注意事項 この記事は非常に長いため、全部読むのに1時間以上かかる可能性があるので、休憩を取りながら、または必要な部分だけ読んでください。各セクションを個別に読んでも問題ありません。 また、文章中の画像は、特別な記載がない限り、引用元の論
『標準ベイズ統計学』はベイズ統計学をきちんと基礎から日本語で学びたいという人にとって必携の一冊 - 渋谷駅前で働くデータサイエンティストのブログ
標準 ベイズ統計学 朝倉書店Amazon 発刊当時に話題になっていた『標準ベイズ統計学』。実は訳者のお一人、菅澤翔之助さんからオフィス宛てでご恵贈いただいていたのですが、親父の没後処理やら自分のDVTやら実家の片付けやらで全く手が回らずオフィスに置いたままにしてしまっていたのでした。で、この度改めて拝読してみたら「何故もっと早く読まなかったんだ」と後悔するくらいあまりにも内容が素晴らしかったので、遅まきながら書評記事を書こうと思い立った次第です。 ベイズ統計学というと、殆ど詳しくない人だと「ベイズの定理以外に何があるの？」という印象ぐらいしかないかもしれませんし、一方でとりあえず技法としてやり方だけ覚えてしまった人だと「とりあえずMCMC回せばいいんだよね？」みたいな雑な理解になってしまうかもしれません。いずれにせよこれまで邦書ではベイズ統計学というと超初歩か実装重視かの二択が多かったせい
とほほのKubernetes入門 - とほほのWWW入門
Google が開発したコンテナ管理システムです。 「クバネティス」「クバネテス」「クーべネティス」などと読まれます。 ギリシャ語で「船長」の意味を持ちます。 Kubernetes のスペルが K と s の間に8文字あることから k8s と表記されることがあります。 Kubernetes を簡略化した k3s というものもあります。 Docker や Podman などに対応しています。 コンテナを Pod と呼ばれる単位で複数のノードに配布して実行管理します。 クライアントからのアクセスを適切にノード上の Pod に転送する仕組みを備えています。 コンテナやノードがダウンしても代わりに他のノードでコンテナを起動してくれます。 サービスを停止することなく、コンテナをローリングアップデートしたりアップデートを中断してロールバックすることができます。 Kubernetes の構築には通常1台
【詳説】Attention機構の起源から学ぶTransformer
みなさんは、Transformerについてどのようなイメージを持っていますか？ 最近は、BERT、GPTなどのTransformerベースのモデルが目を見張るような成果をだしているので、それらを想像する方が多いかと思います。これらはTransformerの発展形ですが、Transformerの起源のほう、即ちAttentionを想像された方もいるかもしれません。この記事で説明していくのは、Transformerの起源のAttention機構についてです。BERTやGPTについては、別の記事で解説できればと思います。 Transformerの論文タイトル「Attention Is All You Need」からTransformerの成功はAttention機構にあることが推測できると思いますが、その通りで、Attention機構なしにTransformerを語るのは難しいです。本記事では、
【徹底解説】VAEをはじめからていねいに | Academaid
初学者の分かりやすさを優先するため，多少正確でない表現が混在することがあります。もし致命的な間違いがあればご指摘いただけると助かります。 はじめに 近年の深層学習ブームにおいて，VAE（変分オートエンコーダ: variational autoencoder）の果たした貢献は非常に大きいです。GAN（敵対的生成ネットワーク: generative adversarial network）やFlowと並んで，生成モデルの三大巨頭として主に教師なし学習や半教師あり学習で応用されています。 多くの書籍やWeb上の資料では「VAEはオートエンコーダの発展手法である」と説明されています。名前にもAE（オートエンコーダ）と入っているので，そう思ってしまうのは一見当然のことのように思えます。しかし，語弊を恐れずに言うと，この説明は深刻な誤解を読者に与えています。Kingmaらの原著論文を読めば，VAEがA
セバスチャンマクロを作って学ぶRustの手続きマクロ
皆様、ごきげんよう。 わたくし、Rustaceanお嬢様の白山風露と申しますわ[1]。 本日はセバスチャン[2]マクロの作成を通して、皆様と一緒にRustの手続きマクロの作り方を学んでいこうと思いますの。 手続きマクロとは何ですの？ 皆様の中にはそんな疑問を抱いている方もいらっしゃるのではないかしら？ 手続きマクロは、英語の"Procedural macro"の訳語ですわ。 こちらはRustのバージョン1.15.0で安定化された、以前は"Macros 1.1"なんて呼ばれていた機能ですの。 手続きマクロが1.1なのですから、以前にもRustにはマクロが存在しておりまして、macro_rules!マクロ[3]を使って定義するのがそれになりますわ。 macro_rules!を使ったマクロ定義はトークン列をパターンマッチして置き換えルールを記述するものですが、手続きマクロはトークン列を受け取って
とほほのChrome拡張機能開発入門 - とほほのWWW入門
Chrome の拡張機能を開発する手順について説明します。まずは、拡張機能が実行されたらポップアップを表示するだけのものを作成してみます。下記のフォルダとファイルを作成します。 my-extension manifest.json popup.html { "name": "My Extension", "description": "My Extension", "version": "1.0", "manifest_version": 3, "action": { "default_popup": "popup.html" } } <!DOCTYPE html> <html> <body> <h1>Hello world!</h1> </body> </html> Chrome で chrome://extensions を開き、[パッケージ化されていない拡張機能を読み込む] から上記
Datomicを今日学ぼう！
Datalogを今日学ぼう！Datalogを今日学ぼう！はDatomic版のDatalogを学ぶために用意された対話形式のチュートリアルです。Datalogは論理プログラミングを源流にもつ宣言的なデータベース問合せ言語です。DatalogはSQLと同等の表現力を持ちます。 Datomicは革新的なアーキテクチャを持ち、ユニークな特徴をユーザに提供する新しいデータベースです。Datomicの詳細についてはhttp://datomic.comを御覧ください。アーキテクチャの詳細についてはInfoQの記事である程度述べられています。 目次Extensible Data Notation基本のクエリデータパターンパラメータ化されたクエリクエリの詳細述語変換関数集計ルールこのチュートリアルは2013年のLisp In Summer Projectsのために雨降りの日に書かれました。バグやこのチュート
ジャズのコード進行の原理 -
前置き はじめまして, コンポーザー, DJなどをやっているArakurです. 昔は打ち込みジャズを専門で作っていたのですが, ここ最近は殆ど作る機会がなく, 知識やTipsを持て余すくらいなら同志や後進に託そうと思ったので少しずつ記事にしてみることにしました. 第1回は, 古典和声またはポピュラー和声についてある程度知っている方向けにジャズのコード進行の理論の原理的な部分について解説します(第2回が今後書かれるかはまだ分かりません). とりあえずこれを読み切ればそこいらのスタンダードの進行は最低限アナライズできるようになる, という感じの内容を目指しています. 本記事は他ジャンルの制作にあたってジャズの知識を取り入れたいというような層を主に想定しています. 僕自身体系的なジャズ・音楽理論の教育を受けたわけではなく, 知識の大半はネットや古い教則本, およびセッションなどによる実践的経験を
Rustで作る公開鍵暗号 - STORES Product Blog
この記事はhey Advent Calendarの3日目です。 データチームの @komi_edtr_1230 です。 僕はRustが好きで、かつ最近はブロックチェーン周りの技術が楽しくなってきているので、そんなわけで今回のアドベントカレンダーの企画としてRustで公開鍵暗号を実装しました。 データチームはデータ分析の際には個人情報などを取り扱うこともあり、セキュリティについての知識をつけておくのはマストであるので、公開鍵暗号について理解を深めておくのは非常に有用です。 なので今回の記事ではブロックチェーンにも使われている公開鍵暗号の理論的な話、そしてその実装についてまとめていきます。 ※説明の中でちょっとだけ算数がありますので算数アレルギーの方はご注意ください。 ブロックチェーンと公開鍵暗号 ブロックチェーンとは何かというと、ネットワークのトランザクションを時系列に沿って保存していくデー
宇佐八幡神は新羅の神だった
▼宇佐八幡神は新羅の神だった 八幡神は、いささか奇妙なところがあるが、間違いなく偉大な神である。「八幡大菩薩」と神仏習合名で呼ばれ、古代国家の大事にははるか九州宇佐の地から飛来した。朝廷からは伊勢神宮に次ぐ尊崇を受けた最高の国家鎮護神であり、その一方では武士政権の最大の守護軍神にもなっている。現在も、全国に約二万四千という日本第二の分社を数える人気神である（第一位は約三万五千の稲荷社）。 ところが、この八幡神はもとはれっきとした新羅からの外来神だったのである。別稿（日本人および日本の誕生）で述べたが、鎌倉源氏は自らを「新羅」の末裔と信じた節がある。ならば、守護神を八幡神とするのも至極当然である。源氏の「白旗」とは実は八幡の「素幡」（しろはた）だったということになる。そう言えば、「八幡」太郎義家と名乗った者もいる。また、明治維新の元勲・西郷隆盛が育った薩摩藩では、幼少からの藩士教育が盛んだっ
クォータニオンとは何ぞや？：基礎線形代数講座 - SEGA TECH Blog
---【追記：2022-04-01】--- 「基礎線形代数講座」のPDFファイルをこの記事から直接閲覧、ダウンロードできるようにしました。記事内後半の「公開先」に追記してあります。 --- 【追記ここまで】--- みなさん、はじめまして。技術本部 開発技術部のYです。 ひさびさの技術ブログ記事ですが、タイトルからお察しの通り、今回は数学のお話です。 ＃数学かよ って思った方、ごめんなさい（苦笑） 数学の勉強会 弊社では昨年、有志による隔週での数学の勉強会を行いました。ご多分に漏れず、コロナ禍の影響で会議室に集合しての勉強会は中断、再開の目処も立たず諸々の事情により残念ながら中止となり、用意した資料の配布および各自の自学ということになりました。 勉強会の内容は、高校数学の超駆け足での復習から始めて、主に大学初年度で学ぶ線形代数の基礎の学び直し 、および応用としての３次元回転の表現の基礎の理解
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
bevy/crates/bevy_ecs/src/system/query.rs at main · bevyengine/bevy
bevy/bevy_legion at 129a9747bba8484c614d95e0d0719f0c6bcc5c28 · bevyengine/bevy
誰でも使える脚本作成ソフトウェア!
Stable Diffusion を基礎から理解したい人向け論文攻略ガイド【無料記事】
なぜなにリアルタイムレンダリング
ちいさな Web ブラウザを作ってみよう
