Visualizing Black Holes with General Relativistic Ray Tracing – Sean's Projects
Okay I ended up making this write-up waaaaaay too long, so before I get into any of the jargon, let’s take a look at the finished product: Orbiting around the equator of a supermassive black hole, with an off-axis accretion disk. Orbiting laterally from the equator to the north pole of a slightly less supermassive black hole. Sitting near the accretion disk of a really, really supermassive black h
The CSS WG resolved to add if() to CSS, but that won’t be in browsers for a while. What are our options in the meantime? A couple days ago, I posted about the recent CSS WG resolution to add an if() function to CSS. Great as it may be, this is still a long way off, two years if everything goes super smoothly, more if not. So what can you do when you need conditionals right now? You may be pleased
The 'eu' in eucatastrophe – Why SciPy builds for Python 3.12 on Windows are a minor miracle
This matrix would be a lot larger if it included historical OSes and less common architectures, where support with the respective compiler was often in a 1:1 relationship (i.e. that combination would cover a single cell in the matrix). The matrix also does not cover which programming languages a given compiler is able to process, but for simplicity, you can picture C/C++ here. Of course, GCC remai
猫番 — 型を司るもの、カインド
型を司るもの、カインド すごいHaskellたのしく学ぼう 曰く: 型とは、値について何らかの推論をするために付いている小さなラベルです。そして、型にも小さなラベルが付いているんです。その名は種類 (kind)。 … 種類とはそもそも何者で、何の役に立つのでしょう？さっそく GHCi の :k コマンドを使って、型の種類を調べてみましょう。 Scala 2.10 時点では Scala REPL に :k コマンドが無かったので、ひとつ書いてみた: kind.scala。 George Leontiev 氏 (@folone) その他のお陰で、Scala 2.11 より :kind コマンドは標準機能として取り込まれた。使ってみよう: scala> :k Int scala.Int's kind is A scala> :k -v Int scala.Int's kind is A * Th
A Complete Guide to Principal Component Analysis – PCA in Machine Learning
Data Science Duniya Learn Data Science, Machine Learning and Artificial Intelligence Principal Component Analysis or PCA is a widely used technique for dimensionality reduction of the large data set. Reducing the number of components or features costs some accuracy and on the other hand, it makes the large data set simpler, easy to explore and visualize. Also, it reduces the computational complexi
Eiji Ogasa
Eiji Ogasa's website List of my papers Youtube ４次元・高次元・物理・数学・SFに 関係が有ります Movies and Photos Twitter Facebook Instagram ResearchGate 講談社website記事全部 講談社website記事各各 Ogasa's English books 拙洋書 小笠英志 Pick up! 御仕事募集 日本SF作家クラブ に入会しました 講談社の公式websiteに 『ブラックホールに吸い込まれると、どこに行くか？ 宇宙の涯ての謎！ --宇宙好きは高次元や多様体が空想できる--』 という記事を書きました。是非御覧下さい。初心者向けです。 この記事には宇宙を解明する鍵となる動画が２本含まれています。合わせて御覧下さい。 宇宙空間は有限か無限か？有限ならはしっこはどうなってるの？飛び出
Simple Implementation of OpenAI CLIP model: A Tutorial
IntroductionIt was in January of 2021 that OpenAI announced two new models: DALL-E and CLIP, both multi-modality models connecting texts and images in some way. In this article we are going to implement CLIP model from scratch in PyTorch. OpenAI has open-sourced some of the code relating to CLIP model but I found it intimidating and it was far from something short and simple. I also came across a
英語で算数はarithmetic、数学はmathematics 受験英語で皆そう習います。ためしに「システム英単語」と「DUO3.0」でarithmeticを確認したらどちらも「算数」と訳されていました。 日本では小学で習うのが「算数」で、中学からは「数学」ですが、実はアメリカでは科目名が変わりません。小学でも中高校でもmathematicsです。「算数」をarithmeticと訳すると誤訳になることがあるのでで注意する必要があります。以下、算数と数学の違い、arithmeticとmathematicsの違いについて見てみます。 日本語の「算数」と「数学」の違い 数学とは「初等教育（小学校など）過程における算数を引き継ぎ、さらに高度な数理的な考え方を身に付けることを目的とした教科である」（wikipediaより）。それに対して算数は、①日本の小学校での教科の一つである初等数学、②数量の計算
ガウス近似できない事後分布の 漸近挙動について 渡辺澄夫 東京工業大学 東京大学 数理情報学 談話会 2019年11月26日（火） 17:00-18:00 この講演では東京大学鈴木大慈先生の お世話になりました。御礼申し上げます。 もくじ １ 「学習」の数学 ２ 道に迷う ３ 代数解析学 ４ 代数幾何学 ５ 実世界へ １ 「学習」の数学 数学 「学習理論」 とは … 先生 学習さん 先生と同じ になるには りんご，みかん， ぶどう，でしょう 先生 学習さん { 学習 } で成り立つ法則を知りたい 学習 「学習」の数学 先生 学習さん y O q(y|x) x y O p(y|x,w) x パラメータ w の 先生 ← 学習さん q(y|x) ← p(y|x,w) q(x) q(y|x) ← q(x) p(y|x,w) q(x) ← p(x|w) (x,y) を改めて1個の x と思うことに
Pauls Online Math Notes
You appear to be on a device with a "narrow" screen width (i.e. you are probably on a mobile phone). Due to the nature of the mathematics on this site it is best views in landscape mode. If your device is not in landscape mode many of the equations will run off the side of your device (should be able to scroll to see them) and some of the menu items will be cut off due to the narrow screen width.
Sean Moriarity and I are glad to announce that the project we have been working on for the last 3 months, Nx, is finally publicly available on GitHub. Our goal with Nx is to provide the foundation for Numerical Elixir. In this blog post, I am going to outline the work we have done so far, some of the design decisions, and what we are planning to explore next. If you are looking for other resources
AMD、Ryzen Threadripper Pro 5000-WXシリーズを発表 - Zen 3ベースのThreadripper
レポート AMD、Ryzen Threadripper Pro 5000-WXシリーズを発表 - Zen 3ベースのThreadripper AMDは3月8日、Ryzen Threadripper Pro 5000-WXシリーズを発表した。オンラインの形で詳細が説明されてたので、これをご紹介したい。 Ryzen Threadripper Pro 5000-WXシリーズは要するにZen 3コアベースのRyzen Threadripperである。コンシューマ向けのRyzen、及びサーバー向けのEPYCは既にZen 3ベースの性能が投入されている中、Workstation向けのThreadripperのみZen 3コアの投入が遅れており、ようやくといったところである。 そのWorkstation向けのマーケットシェアを同社は順調に獲得しているとしており(Photo01)、このシェアを更に広げるべ
The Blog of Scott Aaronson If you take nothing else from this blog: quantum computers won't solve hard problems instantly by just trying all solutions in parallel. You’ve seen the stories—in the Financial Times, Technology Review, CNET, Facebook, Reddit, Twitter, or elsewhere—saying that a group at Google has now achieved quantum computational supremacy with a 53-qubit superconducting device. Whil
Buy from Amazon. Buy from Cambridge University Press. Download a draft from the arXiv. Reload website: deeplearningtheory.com The Principles of Deep Learning Theory An Effective Theory Approach to Understanding Neural Networks Daniel A. Roberts, Sho Yaida, Boris Hanin A Cambridge University Press Book This book develops an effective theory approach to understanding deep neural networks of practica
A History of Clojure
71 A History of Clojure RICH HICKEY, Cognitect, Inc., USA Shepherd: Mira Mezini, Technische Universität Darmstadt, Germany Clojure was designed to be a general-purpose, practical functional language, suitable for use by professionals wherever its host language, e.g., Java, would be. Initially designed in 2005 and released in 2007, Clojure is a dialect of Lisp, but is not a direct descendant of any
Free Book: Foundations of Data Science (from Microsoft Research Lab) - DataScienceCentral.com
Home » UncategorizedFree Book: Foundations of Data Science (from Microsoft Research Lab) CapriGranville733May 23, 2019 at 5:00 am By Avrim Blum, John Hopcroft, and Ravindran Kannan (2018). Computer science as an academic discipline began in the 1960s. Emphasis was on programming languages, compilers, operating systems, and the mathematical theory that supported these areas. Courses in theoretical
PyTorch 1.8 Release, including Compiler and Distributed Training updates, and New Mobile Tutorials
by Team PyTorch We are excited to announce the availability of PyTorch 1.8. This release is composed of more than 3,000 commits since 1.7. It includes major updates and new features for compilation, code optimization, frontend APIs for scientific computing, and AMD ROCm support through binaries that are available via pytorch.org. It also provides improved features for large-scale training for pipe
This gif depicts the training dynamics of a neural network. Find out how by reading the rest of this post. A flurry of recent papers in theoretical deep learning tackles the common theme of analyzing neural networks in the infinite-width limit. At first, this limit may seem impractical and even pointless to study. However, it turns out that neural networks in this regime simplify to linear models
Goodbye, Data Science
This is more of a personal post than something intended to be profound. If you are looking for a point, you will not find one here. Frankly I am not even sure who the target audience is for this (probably “data scientists who hate themselves”?). I had been a data scientist for the past few years, but in 2022, I got a new job as a data engineer, and it’s been pretty good to me so far. I’m still wor
Functions are Vectors
Conceptualizing functions as infinite-dimensional vectors lets us apply the tools of linear algebra to a vast landscape of new problems, from image and geometry processing to curve fitting, light transport, and machine learning. Prerequisites: introductory linear algebra, introductory calculus, introductory differential equations. This article received an honorable mention in 3Blue1Brown’s Summer
Exploring hyperparameter meta-loss landscapes with Jax Saturday. February 06, 2021 - 20 mins A common mantra of the deep learning community is to differentiate though all the things, e.g. differentiable renderer, differentiable physics, differentiable programming language[julia, dex, myia], etc. In my own research, I’ve found that, while one can often compute a gradient, it isn’t always the most u
勉強を進めていて，4つの基本部分空間(four fundamental subspaces)についてモヤモヤしてしまいました．線形代数を理解する上で非常に重要な概念だと感じるので，その内容をまとめることにしました． 4つの基本部分空間とは，行列の行空間(row space)，列空間(column space)，零空間(nullspace)，左零空間(left nullspace)のことです．連立一次方程式の解，行列のランクなどとも密接に関連します．文献[1][2]を参考にして以下にまとめます． ================================================================================= 行列 の行列を考えます．4つの基本部分空間とは，以下の4つの空間のことです． 1. 行空間 ， の部分空間 2. 列空間 ， の部分空間
In the Stack overflow 2020 survey, Rust was picked as #1 most loved programming language, thanks to 86% of developers who said they would continue using it. For the language creators, this is nothing new – Rust has been winning the survey ever since 2016. On Tiobe Index, Rust is rising in popularity as well – achieving #18 positions among the most popular languages in September. It also didn’t fai
Arquero
Arquero Arquero is a JavaScript library for query processing and transformation of array-backed data tables. Following the relational algebra and inspired by the design of dplyr, Arquero provides a fluent API for manipulating column-oriented data frames. Arquero supports a range of data transformation tasks, including filter, sample, aggregation, window, join, and reshaping operations. Fast: proce
オンライン大学 University of the People でProgramming2 (CS1103) を修了したのでその感想を書きます。 これまでのUoPeople関連の記事はこちら： UoPeople カテゴリーの記事一覧 - えんぴつぶろぐ はじめに このコースはCS1102:Programming1に続きJavaを使いますが、CS1102に比べると課題の難易度が上がりComputer Scienceコース最初の関門と言われています。 ほぼ毎週Programming課題があるので課題の量も多め。 ただJavaそのものを学ぶというより、Javaを使いながら計算量やデータ構造・アルゴリズム、Generic ProgrammingやGUI Programmingなどの他の言語にも通ずる問題解決力を養うためのコースなのでやりがいがあるし、 これを修了すると受講できるコースの選択肢が格
この記事を読んでわかること 概要 参考 補足 LAPACK(Linear Algebra PACKage) に関して 環境 apt (default) docker コンテナの用意 numpy のインストール 検証 BLAS 速度 pip (default) docker コンテナの用意 numpy のインストール 検証 BLAS 速度 build (default) docker コンテナの用意 numpy のインストール 検証 BLAS 速度 apt (openBLAS) docker コンテナの用意 openBLAS のインストール numpy のインストール 検証 BLAS 速度 pip (openBLAS) docker コンテナの用意 openBLAS のインストール numpy のインストール 検証 BLAS 速度 build (openBLAS) docker コンテナの用
JuliaLang: The Ingredients for a Composable Programming Language
One of the most remarkable things about the julia programming language, is how well the packages compose. You can almost always reuse someone else’s types or methods in your own software without issues. This is generally taken on a high level to be true of all programming languages because that is what a library is. However, experienced software engineers often note that its surprisingly difficult
1 はじめに 機械学習、ディープラーニング関連の論文を読む時に、出てくる数式を理解するため、理解しておくべき数学記号を整理しました。 2. 代数 (Algebra) 2.1 総和(Summation) 記号＆例題
2020年度Rubyアソシエーション開発助成 公募結果 Rubyアソシエーション開発助成について2020年度は以下のプロジェクトが採択されましたのでご報告致します。 本プロジェクトによる開発の成果報告は2021年4月頃に予定しています。 mini mruby compiler (mmrbc) プロジェクト概要 mmrbc（mini mruby compiler）はRubyスクリプトをmrubyのVMコードへコンパイルする。256 KiB ROM, 128 KiB RAM程度のワンチップマイコンを動作環境として想定している。これは、mruby標準添付のmruby-compilerでは動作できない小さなリソースである。 小リソース環境向けのmruby VM実装であるmruby/cとmmrbcを組み合わせることにより、ワンチップマイコン上でRubyをインタプリタ実行できるようになる。 このシステ
包含写像 - Wikipedia
A は B の部分集合であり、B は A の上位集合である。 数学における包含写像（ほうがんしゃぞう、英: inclusion map, inclusion function）または標準単射 (英: canonical injection) は、A を B の部分集合とするとき、A の各元 x を B の元として扱う写像 のことを言う[1]。写像の矢印の部分に「鉤付き矢印」↪ を用いることで A ↪ B が包含写像であることを意味することがある。 包含写像（およびそれに類する部分構造（英語版）からの単射[2]）はしばしば、自然な単射 (英: natural injection) とも呼ばれる。 二つの対象 X と Y の間の任意の射 f: X → Y が与えられたとき、域 X の中への包含写像射 ι: A → X が存在するならば、f の制限を射の合成 f ∘ i によってつくることができ
Creative writing by OpenAI’s GPT-3 model, demonstrating poetry, dialogue, puns, literary parodies, and storytelling. Plus advice on effective GPT-3 prompt programming & avoiding common errors. I continue my AI poetry generation experiments with OpenAI’s GPT-3 (released mid-2020), which is 116× larger, and much more powerful, than the 2019 GPT-2. GPT-3, however, is not merely a quantitative tweak y
米マサチューセッツ工科大学（MIT）、米コロンビア大学、米ウォータールー大学の研究チームが発表した論文「A Neural Network Solves and Generates Mathematics Problems by Program Synthesis: Calculus, Differential Equations, Linear Algebra, and More」では、テキストで事前学習し、コードで微調整（fine-tune）したTransformerが、プログラム合成によって大学レベルの数学問題をリアルタイムに解き、採点し、生成できることを実証した。数学の問題に対し必要に応じて補完を行い、その上でプログラムを自動生成。そのプログラムを実行することで、問題を解くという仕組みだ。 keyboard_arrow_down 先行研究 keyboard_arrow_down 実証
[ANN] Symbolics.jl: A Modern Computer Algebra System for a Modern Language
The JuliaSymbolics Organization Roadmap We need new Computer Algebra Systems (CAS) for this new era of computing. We need a CAS that dispatches in the multiple ways we think. We need a CAS that scales exponentially like our problems. We need a CAS that integrates with our package ecosystem, letting people extend parts and contribute back to the core library all in one language. We need a modern CA
![[ANN] Symbolics.jl: A Modern Computer Algebra System for a Modern Language](https://cdn-ak-scissors.b.st-hatena.com/image/square/83bb63860c43dc170cf08f25893419608d413774/height=288;version=1;width=512/https%3A%2F%2Fglobal.discourse-cdn.com%2Fjulialang%2Foriginal%2F3X%2F4%2Fd%2F4d76a1d8062ed9397f2f00f22abdd69926b51785.png)
Deep-ML
ML Code Challenges Title Category Difficulty Status Matrix times Vector linear algebra Easy Unsolved Calculate Covariance Matrix linear algebra Medium Unsolved Solve Linear Equations using Jacobi Method linear algebra Medium Unsolved Singular Value Decomposition (SVD) linear algebra Hard Unsolved Determinant of a 4x4 Matrix using Laplace's Expansion linear algebra Hard Unsolved Linear Regression U
Mathematicians Transcend Geometric Theory of Motion | Quanta Magazine
In a nearly 400-page paper posted in March, the mathematicians Mohammed Abouzaid and Andrew Blumberg of Columbia University have constructed a major extension of one of the biggest advances in geometry in recent decades. The work they built on relates to a well-known conjecture from the 1960s made by Vladimir Arnold. Arnold was studying classical mechanics and wanted to know when the orbits of pla
まず、実対称行列AAAが持つ複素数の固有値の 1 つをλ\lambdaλとします。また、この固有値の共役をλˉ\bar{\lambda}λˉとします。 λ\lambdaλは固有値なので、「Ax=λxA\boldsymbol{x} = \lambda\boldsymbol{x} Ax=λx」が成り立ちます。この式は、両辺の各要素を共役に置き換えても成立します。つまり、「Aˉxˉ=λˉxˉ\bar{A}\bar{\boldsymbol{x}} = \bar{\lambda}\bar{\boldsymbol{x}}Aˉxˉ=λˉxˉ」も成り立ちます。 AAAの成分は全て実数（虚数部分が 0）なので、A=AˉA=\bar{A}A=Aˉです。よって、上の式は次のように変えられます。 Axˉ=λˉxˉA\bar{\boldsymbol{x}} = \bar{\lambda}\bar{\boldsymb
機械学習をやる上で線形代数はどのように必要になるのか
株式会社pipon代表取締役。 キャリアはADK(広告代理店)でテレビ広告運用をして残業120時間するが、ネット広告では自分の業務がAIで自動化されていることに驚愕する。そこで、機械学習受託会社に転職し、技術力を身につけた後、piponを創業。現在、製薬業界、大手監査法人、EC業界、様々な業界でAI受託開発事業を運営。 はじめに 大学で学んだ線形代数は、様々な理論の基本となる考え方で、機械学習で用いられるアルゴリズムの中でも活用されています。 線形代数を知らなくても機械学習はできますが、なぜそのアルゴリズムで解を出せるのかを理解したい場合、線形代数の考え方を知っておく必要があります。 今回は、機械学習における線形代数の必要性について述べます。 線形代数とは 線形代数とは、線形空間に関する学問で、代数学の一分野です。簡単に言うと、行列やベクトルの性質を色々考える学問です。 理系の大学の授業で
Timeline.pages
A Timeline for Logic, λ-Calculus, and Programming Language Theory Dana S. Scott University Professor Emeritus Carnegie Mellon University Visiting Scholar University of California, Berkeley dana.scott@cs.cmu.edu Taken from talks prepared for: TURING CENTENNIAL CELEBRATION Princeton University, May 10-12, 2012 ACM TURING CENTENARY CELEBRATION San Francisco, June 15-16, 2012 1 1870s Begriffsschrift F
Julia 1.6 Highlights
24 March 2021 | Jeff Bezanson, Ian Butterworth, Nathan Daly, Keno Fischer, Jameson Nash, Tim Holy, Elliot Saba, Mosè Giordano, Stefan Karpinski, Kristoffer Carlsson Julia version 1.6 has been released. Most Julia releases are timed and hence not planned around specific features, but this release was an exception since it is likely to become the next long-term support (LTS) release of Julia. Becaus
皆さんこんにちは お元気でしょうか。最近は宅配スーパーによりますます外出しなくなっています。 本日はTPUをPyTorchで使ってみます。 GPUと比較して、TPUは汎用性をなくした代わりによりDeepLearningに必要な演算を高速にできるようにしたものです。 Why TPU? TPUとは？ どの程度高速なのか どうやって使うのか PyTorch-XLA 準備 インストール 実装 インストール部 結果可視化 学習 最後に Why TPU? TPUとは？ TPUはニューラルネットワークの演算専用のアーキテクチャです。 一言で使うモチベーションをお伝えするのであれば「速いから」の一言です 他の用途には利用できない分、大規模な乗算と加算を高速に演算できます。 詳細は次のサイトを見ていただくのが良いと思います。 www.atmarkit.co.jp cloud.google.com どの程度高
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Inline conditionals in CSS, now? • Lea Verou
英語で「算数」はなんと言うの？│ arithmeticじゃないよ | Englishに英語
渡辺澄夫 (2019) ガウス近似できない事後分布の 漸近挙動について
Nx (Numerical Elixir) is now publicly available - Dashbit Blog
Scott’s Supreme Quantum Supremacy FAQ!
The Principles of Deep Learning Theory
Understanding the Neural Tangent Kernel
Exploring hyperparameter meta-loss landscapes with Jax
4つの基本部分空間について考える - エンジニアを目指す浪人のブログ
5 Reasons Why Rust Is The Future
UoPeopleでProgramming2(Java)を修了した - えんぴつぶろぐ
Ubuntu 16.04 上で numpy の環境構築をする - Arbitrary arbitrage
機械学習でよく使われる数学記号(1) - Qiita
2020年度Rubyアソシエーション開発助成金 公募結果発表
GPT-3 Creative Fiction · Gwern.net
AIが大学レベルの数学を即座に解き、高品質な問題の生成にも成功。プログラム合成技術を活用 MITなどが発表【研究紹介】
【固有値編】対称行列の対角化の性質と必ず対角化できる理由 | 大学1年生もバッチリ分かる線形代数入門
PyTorch XLAでTPUを操作する - のんびりしているエンジニアの日記