音響メディア信号処理における独立成分分析の発展と応用, History of independent component analysis for sound media signal processing and its applications2016年2月8日一橋大学大学院 国際企業戦略研究科 ファカルティセミナー招待講演 北村大地 北村大地→http://d-kitamura.sakura.ne.jp/index.html ファカルティセミナー→http://www.fs.ics.hit-u.ac.jp/teaching_staff_research/faculty_seminar/Read less
なぜ交差(クロス)エントロピーが機械学習（ニューラルネットワーク）の損失関数に使われるのか？
交差エントロピーの意味 まず交差エントロピーは、以下の式で表されます。 $$E=-\sum_{k}{{q(k)}log(p(k))}$$ pは、ニューラルネットワークで学習された確率。分類問題では学習データの正解率として出力されます。 qは、教師データの確率。１（１００％）と０（０％）で出力されます（詳しくは後述） ちょっと数学チックに言うと、「確率分布pと確率分布qの近似性を表現する関数」と言うことになります。 この性質から、機械学習の損失関数に交差エントロピーが採用されています。 ちなみに、「交差」というのは２つの確率分布pとqを組み合わせていることに由来しているらしい。 さらに、分類問題で使う際にはシグマのない非常にシンプルな数式になります。 $$E=-log(p(k))$$ 分類問題の場合、教師データは全て0と1になります。つまり０％か１００％かという二択になるということ。 例えば
雑記： 交差エントロピーって何 - クッキーの日記
機械学習をしているとよく交差エントロピーを最小化させられると思います。 でも冷静に考えると交差エントロピーが何かよくわかりませんでした。むしろエントロピーがわかりませんでした。 以下の記事を読み、もっと無理がない例で短くまとめたかったのですが、やはり例に無理があり、長くなってしまいました。参考文献 情報理論を視覚的に理解する (1/4) | コンピュータサイエンス | POSTD 情報理論を視覚的に理解する (2/4) | コンピュータサイエンス | POSTD 情報理論を視覚的に理解する (3/4) | コンピュータサイエンス | POSTD 情報理論を視覚的に理解する (4/4) | コンピュータサイエンス | POSTD ニューラルネットワークと深層学習 以下はこれら記事の劣化アレンジです。 A国、B国、C国があります。 A国では、一日の天気は25%ずつの確率で晴れ、曇り、雨、雪にな
外積とは?ベクトルの積の意味/計算法/公式をわかりやすく解説
外積とは何か？ ※ベクトルの内積は既知のものとして進めるので、曖昧な人は ・「ベクトルの内積がわかる！ベクトル同士の掛け算の正体」 ・「ベクトルの成分表示での内積と、垂直条件、平行条件」を先にご覧ください。 内積と外積の共通点と相違点 $$内積は\vec {a}\cdot \vec {b}$$ の様に表し、この時、ベクトルとベクトルの間を（・）で表すので、ドット積と言ったりもしました。 一方で、$$外積は\vec {a}× \vec {b} $$ と表します。 スカラーの掛け算と同じ様に（× )を使うので、クロス積とも言います。 重要なことは、 内積が(ベクトル量)・(ベクトル量)＝スカラー量 になるのに対して、 外積は(ベクトル量)× (ベクトル量)＝ベクトル量 となることです。 つまり、外積の答えは「向き」と「大きさ」の”2つの情報を持っている”ということが出来ます。 外積の順番 次は
外積と愉快な仲間たち - Qiita
ベクトルの外積と呼ばれる演算には3種類あります。 テンソル積 $\otimes$ ウェッジ積 $\wedge$（楔積） ベクトル積 $\times$（クロス積） これらについて簡単に紹介します。 ※ 外積と言えばベクトル積を指すことが一般的です。ここでは使用頻度ではなく、説明の都合で番号を振っています。 内積と外積を同時に扱えるクリフォード代数の幾何積も紹介します。 最後に、代数式・テンソル積・ウェッジ積・ベクトル積・幾何積・四元数を計算するプログラムを掲載します。 シリーズの記事です。 多項式の積を計算 外積と愉快な仲間たち ← この記事 ユークリッド空間のホッジ双対とバブルソート 四元数を作ろう 四元数と行列で見る内積と外積の「内」と「外」 八元数を作ろう 八元数の積をプログラムで確認 外積の成分をプログラムで確認 多元数の積の構成 十六元数を作ろう 関連するコードをまとめたリポジトリ
外積とは何か。ベクトルの外積の定義・意味・大きさについて｜アタリマエ！
たとえば、\((1,2,3)\) と \((4,5,6)\) の外積は、\((-3,6,-3)\) となります。 このページでは、外積の定義や性質を見ていきましょう。 外積 \(\vec{\ a\ }×\vec{\ b\ }\) とは ①その向きが \(\vec{\ a\ }\) と \(\vec{\ b\ }\) に直交する方向で（右ネジの法則） ②その長さが「\(\vec{\ a\ }\) と \(\vec{\ b\ }\) を2辺とする平行四辺形の面積」に等しい という性質を持ったベクトルのことを言います。 外積はもとのベクトルと直角に交わる外積 \(\vec{\ a\ }×\vec{\ b\ }\) は、元となったベクトル \(\vec{\ a\ },\vec{\ b\ }\) の両方と直角に交わるという性質を持っています。 そのため、2つのベクトル \(\vec{\ a\ },\
平面幾何におけるベクトル演算 » 内積と外積
内積・外積 ベクトルの内積 (inner product, dot product, scalar product) と外積 (outer product, cross product, vector product) という演算を用いると幾何の問題を解く考え方が簡単になります。 幾何学における内積や外積はもともと3次元空間上で定義されるものなので，まずは3次元空間上で幾何学的な内積・外積を導入し， それらが線形代数的なベクトル演算と等価であることを利用し，内積・外積を2次元平面上に拡張（縮小？）します。 3次元空間上において，ベクトルの内積（ドット積）は a⋅b で表され， 以下の式で定義されます： 内積はcosを使って定義されている点と，内積の結果は単一の値＝スカラーになる点に注意してください。 また，ベクトルの外積（クロス積）は a×b で表され， その大きさ |a×b| は で与え
【内積とは】ベクトルの内積の意味や公式・計算方法を知って大学合格へ！
はじめにベクトルの勉強において、最初にぶつかる壁である「内積」 ほとんどの教科書では突然公式が出され、内積とは何なのか？という基本が置き去りになっています。しかし、その表面的な理解のままでは大学入試の問題を解くことはできません。 この記事では、内積とは何かをはじめに説明し、そのあと内積の求め方の公式や計算方法、3次元における内積の性質を説明していきます。 一見わかりにくい内積ですが、「この式は何を意味するのか？」ということを確認しながら問題を解けば、必ず使いこなせるようになります。 内積を理解して、ベクトルを得点源にしましょう！ 内積とは？ では、まず基本中の基本である「内積って何？」というところから説明します。 内積を求めるときは「影」を考えよう2つの平面ベクトル、→aと→bを考えます。 （本来、ベクトルは このように表しますが、この記事ではパソコンでの表記上→a, →bと表します） こ
交差エントロピーを理解してみる - デジタル・デザイン・ラボラトリーな日々
はじめに ここ数ヶ月は別の件で忙しくて、機械学習に向き合えていませんでした。 仕事で調べたり学んだことはQiitaブログの方に書いていて結構すんなり書けるんですが、このブログは数学・物理・機械学習と特化するようにしているので、パワーがないと進まない。 ここ数ヶ月で頭の片隅にあったのは、損失関数の「交差エントロピー」です。今回はこれを理解していこうと思います。 何故、気になっていたのかというと、下記サイトの誤差関数(loss)のときのTensorflow関数「tf.nn.sigmoid_cross_entropy_with_logits」があり、シグモイド関数と交差エントロピーが一緒になっているからです。 yaju3d.hatenablog.jp # 誤差関数(loss) loss = tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logit
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
http://fnorio.com/0126scalar_&_vector_product/scalar_&_vector_product.html