はてなブックマーク

Flux.jlがバージョンアップし、Juliaで機械学習：Flux.jlで自由自在にオリジナルレイヤーを組んでみよう の内容が古くなってきていますので、新しく記事を書くことにしました。書き方を、最新のFlux.jlのマニュアルに書かれているような形に書き換えています。 はじめに Juliaで機械学習するならFlux.jlが有名です。 https://github.com/FluxML/Flux.jl これまで、いろいろを記事にまとめてきました。 Juliaで機械学習：深層学習フレームワークFlux.jlを使ってみる　その１：基本編 Juliaで機械学習：深層学習フレームワークFlux.jlを使ってみる　その２：線形回帰編 Juliaで機械学習：深層学習フレームワークFlux.jlを使ってみる　その3：ニューラルネットとバッチ正規化編 Juliaで機械学習：Flux.jlで自由自在にオリジナ

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

Juliaを使っていると、時々Arpack_jllみたいな、jllと名のついたパッケージを見たことはありませんか？ 大抵、何らかのパッケージをインストールする時に依存関係としてjllのついたパッケージが入っていると思います。 実は、このjllとついたパッケージ、Julia言語ではない他の言語で書かれたコードがコンパイルされたものなのです。インストールする時にはOSに合わせて自動でバイナリがダウンロードされます。 これを実現するのは、 BinaryBuilder.jl https://github.com/JuliaPackaging/BinaryBuilder.jl というパッケージです。 私は https://www.youtube.com/watch?v=3IyXsBwqll8 これを見て存在を知りました。 どうやら、Dockerを使うことで、Mac、Windows、Linuxの様々な

手元でJupyter NotebookでJuliaを実行して、ファイルを.ipynbで保存していたとします。 そのファイルをGoogle Colabでも実行してみたいことがありますよね？ そのやり方についての説明です。 基本的には https://qiita.com/ueuema/items/ca1b326f5df10a4203bd と同じです。補足説明がついているだけとなります。 追記：ローカルでの編集を全く必要としないで新しいノートブックをJuliaで始める方法を追記しました。 さらに追記：ローカルでの編集を全く必要としないで新しいノートブックをJuliaで始める方法のJuliaのバージョンを上げる方法を追記しました Jupyter Notebookの用意 まず、自分で作ったJuliaのJupyter Notebookを用意します。 例えば、 https://github.com/co

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

機械学習のニューラルネットワークにおける誤差逆伝播について、物理を習ったことがある人にわかりやすいようにまとめてみました。 なお、物理を習ったことがある人、というのは未定義で、「なんとなく物理をやったことがあるならわかりやすいかな」という程度です。 物理をやったことがあるなら、偏微分とか連鎖律とかはよく知っているわけです。また、あまりに煩雑な計算はうまいこと避けたいなとか思っていると思います。そして、変に図を描くよりも式変形した方がわかりやすいなとか思ったりすると思います。 参考文献 http://nnadl-ja.github.io/nnadl_site_ja/chap2.html 追記：全結合型以外の一般的な形の時の誤差逆伝播法についても追記しました。 追記：$\delta$の定義をより自然にした方法を追記しました。 ニューラルネットワーク まず、ニューラルネットワークについて考えます

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

この記事は、 "原子分子シミュレーションPythonパッケージAtomic Simulation Environment (ASE)を使ってみる　その１" https://qiita.com/cometscome_phys/items/cd1f4d5f025872dfaae5 "原子分子シミュレーションPythonパッケージAtomic Simulation Environment (ASE)を使ってみる　その２：Quantum Espressoで第一原理計算" https://qiita.com/cometscome_phys/items/4af134de6d959a7718b9 の続編の記事となります。 その２で導入したMateriApps LIVE!は導入ずみであるとします。 前回はASEを使って、Quantum Espressoで第一原理計算をしました。 今回はASEを使って、Qu

Julia言語のWebサイトをみると、Fluxなる深層学習フレームワークがある。 https://github.com/FluxML/Flux.jl GPUも使える、などと書いてある。 "Relax! Flux is the ML library that doesn't make you tensor"（リラックス！Fluxはテンソルを使わない機械学習ライブラリだよ）などとあるので、どんなものか使ってみる。 Juliaの中の人が作っているっぽいので、今後もしかしたら大きくなるかもしれない。 以前、Juliaの別の深層学習フレームワークKnet.jlについて紹介した。 https://qiita.com/cometscome_phys/items/f09e801bc5b3f57f6350 今回は、Fluxの基本的なところをドキュメントに従って解説してみる。 ドキュメントは http://f

チェビシェフ多項式を使って、関数を近似する方法をまとめる。 最後にデルタ関数を例にして近似された様子をJulia 0.6.2でgifアニメにした。 チェビシェフ多項式とは チェビシェフ多項式とは、$-1 \le x \le 1$の範囲で $$ T_{n}(x) = \cos (n \arccos x) $$ で定義される関数である。もう少しわかりやすく書くと、$x = \cos t$ $$ T_{n}(x) = \cos (n t) $$ と書くことができて、cosの加法定理を使ってバラバラにしていくとどんどん計算できる。 そして、この多項式は漸化式： $$ T_0(x) = 1 $$ $$ T_1(x) = x $$ $$ T_{n+1}(x) = 2 T_{n}(x) - T_{n-1}(x) $$ に従う関数である。 チェビシェフ多項式の直交性 チェビシェフ多項式には、以下のような直

Julia 1.0が出て、しばらくは言語仕様が大幅に変わることがなくなった。 ということで、物理分野で数値計算をする際に役に立ちそうなコードをサンプルとしてまとめておくことにする。Juliaは色々な書き方ができるので、ここにあるのはあくまで参考としてほしい。なるべく少ない労力で他の言語から移行できるような書き方を目標としてみた。 対象とする人 FortranやCを使って、簡単な数値計算をする人 PythonでPythonのお作法を使わずにCやFortranと同じノリで書いたら実用的ではないなと感じた人 Juliaとは 書きやすい 明示的にコンパイルをする必要がない。 配列のインデックスが1始まりなのでFortranからの移行にやさしい 速い(Pythonでnumpyで頑張った場合とほぼ同等の速度が何も考えなくても出る) 行列の対角化、関数の積分、疎行列の取り扱い、などが便利 CやFortr