Python コードの高速化のアプローチ - Qiita
はじめに こんにちは。こんばんはかもしれません。爲岡 (ためおか) と申します。 2020年4月から株式会社グロービスにて機械学習エンジニアとして働いています。 グロービスでは機械学習技術を利用したプロジェクトや、データ基盤の運用改善プロジェクトを担当しています。 機械学習技術を利用したシステムには様々なものがあると思いますが、 現状のグロービスにおいては、ユーザのリクエストに対して機械学習を行い、 すぐに結果を返す必要があるようなシステムは扱っておらず、 ある程度の時間をかけて学習、推定した結果を非同期にアプリケーションに連携するシステムのみを扱っています。 ゆえに、今のところは機械学習技術を利用したロジックを書くときに、速さを意識することはあまりありません。 一方で、空いている時間に競技プログラミングをやっていることもあり、 高速なコードについて考えたり、書いたりすることは個人的には好
コンパイラのコード最適化や解析手法の論文のサーベイ - Jicchoの箱
この記事では，自分が最適化コンパイラの研究をする上で読んできた論文をまとめていこうと思う． まとめることで，自分のためにもなるだろうし，読んだ人のためにもなれたら嬉しい． 以下，随時更新． 部分冗長除去法(Partial Redundancy Elimination, PRE) 部分無用コード除去 (Partial Dead Code Elimination, PDE) スカラ置換(Scalar Replacement) レジスタ促進(Register Promotion) 質問伝播(Question Propagation) 演算子強度低減(Strength Reduction) ループ最適化(Loop Optimization) 手続き間最適化(Inter-procedural Optimization) 解析系 参考書籍 部分冗長除去法(Partial Redundancy Elim
各種メモリ／ストレージのアクセス時間，所要クロックサイクル，転送速度，容量の目安 - Qiita
各種メモリ／ストレージについて，2023年時点で標準的なアクセス時間，所要クロックサイクル，転送速度，容量を，各種カタログスペックを参考にまとめてみました． レジスタ(レジスタファイル) 最近のCPUのレジスタ(register)のアクセスは，通常CPUの1クロックサイクルで完了します．2023年時点では，標準的なCPUのクロック周波数は，1〜4GHz程度のオーダーです．1GHzは1秒あたり10億回，すなわち1クロックサイクルは1ナノ秒です． したがって，2023年時点では，レジスタには0.25〜1ナノ秒程度でアクセスできると言えます． レジスタのメモリ容量は，レジスタファイルに存在するレジスタ数に依存します，これは命令で明示的に指定できるレジスタ数という解釈もありますが，レジスタ・リネーミングのようなプロセッサ技術を用いると，実際にはより多くのレジスタ数を持っていると解釈することもできま
計算の高速化のために必要なこと: メモリの観点 - Qiita
前回の「各種メモリ／ストレージのアクセス時間，所要クロックサイクル，転送速度，容量の目安」は，思わぬ反響を呼んだので驚いております。 今回の記事は，その記事の活用編にあたる記事です。コンパイラのコード最適化を設計・実装する時に重要な観点を，つらつらと書いてみます。 原則: 高速なメモリ・ストレージは容量が小さい 前回の記事の結論を再掲します。 メモリ/ストレージの種類 アクセス時間 アクセス開始までの所要クロックサイクル 最大転送速度 容量
Ruby高速化の戦い@RubyKaigi2019 - バイセル Tech Blog
梅雨の季節と思いきや、清々しい天候の続くこの頃、皆様いかがお過ごしでしょうか？ Tech開発部アーキテクチャグループで色々やっております塚本と申します。普段はスクラムマスターやったりしています。 もうひと月以上経ってますが、先日参加してきたRubyKaigiのセッションの内容を掘り下げて記事にしてみます。 Kaigiの概要は村上さんの記事をご参照ください。 tl;dr; Rubyはよい 個人的にはコミッターがよい（失礼） 発表もよい 記事にしたいセッションが絞りきれず執筆が大変なことに Rubyコアの速度改善の話に絞りました 他はまた別途 Rubyist world map Rubyに対して 私のRuby歴は全部足して3年くらいで、関わってきたコミュニティの皆さんほど言語に対する思い入れもなく、Railsなんかツラい思い出が9割くらいなんですが、Rubyはいい言語だと思います。 端的にいう
x86/x64最適化勉強会8 レポート - Cybozu Inside Out | サイボウズエンジニアのブログ
サイボウズ・ラボの光成です。 今回は2月17日に開催された「x86/x64最適化勉強会8」の模様についてお伝えします。 第7回からなんと約3年振りです。 今回の発表内容はAVX-512周りの話が2件、命令の正確なレイテンシの話、年明けから世間を騒がせているMeltdownとSpectreの話が2件でした。 以下、それぞれの発表内容について簡単に解説します。 AVX-512関係 私の発表は「AVX-512（フォーマット）詳解」でした。 AVX-512はまだSkylake-Xなどの一部のCPUにしか搭載されていませんが、今後徐々に採用が増えるでしょう。 （注意）21ページの「3値論理」は「3項論理」の方が適切です。 AVX-512のレジスタ構成や基本的な命令セットを説明した後、AVX2までにはなかったマスクレジスタ、静的丸めモード、ブロードキャストなどの解説をしました。 マスクレジスタは便利に
MKL-DNNで学ぶIntel CPUの最適化手法 - Cybozu Inside Out | サイボウズエンジニアのブログ
初めに サイボウズ・ラボの光成です。 DNN（deep neural network : 深層学習）といえばGPUや専用プロセッサを使うのが主流です。 しかしIntelはCPUで高速にDNNをするためのライブラリ MKL-DNN を提供しています。 MKL-DNNはIntelの最新CPUに対応したオープンソースソフトウェアなのでコードを見ると勉強になります。 ここではMKL-DNNで使われているテクニックをいくつか紹介します。 概要 MKL-DNNの紹介 Xbyakの紹介 呼び出し規約 圧縮displacement ReLU exp 内積 vpdpbusd キャッシュコントロール 想定読者 C++11とx64 CPUのアセンブリ言語の知識をある程度仮定します。 機械学習についてはその知識がなくても最適化手法が理解できるよう、最小限の説明をします。 MKL-DNNの特長 まずMKL-DNNの
LEMON
News Jul 07, 2014 LEMON 1.3.1 released Maintenance release. Please visit the NEWS files for more details on the changes. Aug 10, 2013 LEMON 1.3 released Major release with several new features and improvements. Please visit the NEWS file for more details. Aug 10, 2013 LEMON 1.2.4 and 1.1.6 released Maintenance releases. Please visit the NEWS(1.2.4) and NEWS(1.1.6) files for more details on the
OR-Tools | Google for Developers
About OR-Tools OR-Tools is an open source software suite for optimization, tuned for tackling the world's toughest problems in vehicle routing, flows, integer and linear programming, and constraint programming. After modeling your problem in the programming language of your choice, you can use any of a half dozen solvers to solve it: commercial solvers such as Gurobi or CPLEX, or open-source solve
A Tinder Progressive Web App Performance Case Study
Tinder recently swiped right on the web. Their new responsive Progressive Web App — Tinder Online — is available to 100% of users on desktop and mobile, employing techniques for JavaScript performance optimization, Service Workers for network resilience and Push Notifications for chat engagement. Today we’ll walk through some of their web perf learnings. Journey to a Progressive Web AppTinder Onli
MySQL でオプティマイザトレースを取得する - ablog
MySQL でオプティマイザトレース（Oracle Database でいう 10053 トレース）を取得する方法。 mysql> SET optimizer_trace="enabled=on"; mysql> SET optimizer_trace_max_mem_size = 1048576; mysql> select 1; mysql> select * from information_schema.optimizer_trace\G *************************** 1. row *************************** QUERY: select 1 TRACE: { "steps": [ { "join_preparation": { "select#": 1, "steps": [ { "expanded_query": "/* se
Google Vizier: A Service for Black-Box Optimization
Daniel Golovin (Google, Inc.);Benjamin Solnik (Google, Inc.);Subhodeep Moitra (Google, Inc.);Greg Kochanski (Google, Inc.);John Karro (Google, Inc.);D. Sculley (Google, Inc.) Abstract Any sufficiently complex system acts as a black box when it becomes easier to experiment with than to understand. Hence, black-box optimization has become increasingly important as systems have become more complex. I
Google Optimization Tools（無料）は、最適化問題の救世主になるか。 - GiXo Ltd.
Googleが無料で提供する「最適化問題」ソルバー 本日は、Googleが無料で公開（Apache License 2.0）している最適化問題ソルバー「Google Optimization Tools」を取り上げます。こちら、昨今話題の pokemon GO でも、このRouting使えるんじゃないか、と（ごく一部の特定層の間で）盛り上がっていたりもします。 Google Optimization Tools （＝or-tools）は、「software suite」と表現されています。「Problem Solver（ソルバー）」の集合体と考えるのが良いかなと思います。※少し長いのですが、以下にOverviewを引用しておきます。（英語です。読み飛ばしてもOKです。）色々書かれてますが、要は「いろんな最適化問題を解く為のソルバーだよ」「簡単に使えて、オープンソースだよ」という感じです。
数値最適化のインタラクティブ・チュートリアル | POSTD
「数値最適化」は機械学習における中心的手法の1つです。多くの問題では、最適解を直接突き止めることは難しいものですが、ある解がどれほど適しているかを測定する損失関数を設定し、解を見つけるためにその関数のパラメータを最小化することは比較的容易です。 かつてJavaScriptを初めて学ぼうとしていた時 、結果的に数値最適化ルーチンを多数書きました。そのコードを特に使うこともなく置いていたので、それらのアルゴリズムの動作をインタラクティブな形で可視化したら面白いのではないかと考えました。 本記事の良い点は、コードが全てブラウザで実行できることです。つまり、アルゴリズムの動作をより把握するために、各アルゴリズムのハイパーパラメータをインタラクティブにセットしたり、初期位置を変更したり、どの関数が呼び出されるかを変更したりすることができるのです。 (編注：本記事ではスクリーンショットのみ公開しており
Optimizations in Syntax Highlighting, a Visual Studio Code Story
Version 1.90 is now available! Read about the new features and fixes from May. February 8, 2017 - Alexandru Dima Visual Studio Code version 1.9 includes a cool performance improvement that we've been working on and I wanted to tell its story. TL;DR TextMate themes will look more like their authors intended in VS Code 1.9, while being rendered faster and with less memory consumption. Syntax Highlig
Improving the Stability of MySQL Single-Threaded Benchmarks
I have for some years been running the queries of the DBT-3 benchmark, both to verify the effect of new query optimization features, and to detect any performance regressions that may have been introduced. However, I have had issues with getting stable results. While repeated runs of a query is very stable, I can get quite different results if I restart the server. As an example, I got a coefficie
Optimizing JavaというJavaパフォーマンス系の書籍が面白そう - 谷本 心 in せろ部屋
急激な冷え込みのせいで「寒い！」というつぶやきがTLに散見されるこの頃ですが、皆さんお風邪など召していらっしゃらないでしょうか。 否応なしに寒いという言葉に反応してしまう、けなげなエンジニアの [twitter:@cero_t] です。 このエントリーは Java Advent Calendar 2016 の8日目です。 昨日は [twitter:@haruo31] さんの「Java Stream APIでハマったこと」で、 明日は [twitter:@deaf_tadashi] さんの「マイクロベンチマークツール、JMHについて」でした。 今日のエントリーでは、Javaのパフォーマンス系書籍を紹介したいと思います。 Optimizing Java - O’Reilly Media URLを見るにつけ、あのオライリー様のサイトですら拡張子が由緒正しい .do なのですから、日本のSIerが
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Mathematical Optimization in 60 minutes
双対性
Video Demos & Tours Archive - Hybrid Cloud Management and Automation | Morpheus
