Understanding LSTM Networks -- colah's blog
Recurrent Neural Networks Humans don’t start their thinking from scratch every second. As you read this essay, you understand each word based on your understanding of previous words. You don’t throw everything away and start thinking from scratch again. Your thoughts have persistence. Traditional neural networks can’t do this, and it seems like a major shortcoming. For example, imagine you want to
[WIP]単純ベイズ分類器がまったく単純じゃないので入門 | moxt
Tentang ARMORBET78 Slot : Dalam era digital saat ini, kebutuhan akan hiburan online khususnya di sektor gaming terus meningkat. ARMORBET78 slot, sebagai salah satu platform game online terkemuka, memahami pentingnya menyediakan akses yang mudah dan aman kepada penggunanya. Dengan menyediakan daftar login dan link ke berbagai permainan populer, ARMORBET78 menjamin bahwa setiap penggemar game dapat
![[WIP]単純ベイズ分類器がまったく単純じゃないので入門 | moxt](https://cdn-ak-scissors.b.st-hatena.com/image/square/8d71ff5111e05619a10d29bb40d7aebaa75c8fbc/height=288;version=1;width=512/https%3A%2F%2Fs0.wp.com%2Fi%2Fblank.jpg)
Encoder-Decoder でレシピの材料名を正規化する - クックパッド開発者ブログ
研究開発部の原島です。部のマネージメントのかたわら、自然言語処理関連の開発に従事しています。本エントリでは、最近社内で開発した自然言語処理システムを紹介します。 ■ 「しょうゆ」のバリエーションは 100 種類以上 クックパッドで以前から解決したかった課題の一つに材料の名前（以下、材料名）の正規化があります。 クックパッドのレシピは複数の材料から構成され、各材料は名前と分量から構成されています。例えば、上のレシピの一つ目の材料は「豚薄切り肉」が名前で、「200g」が分量です。 さて、この材料名はこのレシピでは「豚薄切り肉」という表現でした。しかし、他のレシピでは「豚うす切り肉」という表現かもしれません。「豚うすぎり肉」や「ぶた薄切り肉」、「豚薄ぎり肉」等の表現もありえますね。 これは異表記同義（いわゆる表記揺れ）の問題ですが、同様の問題は他にも沢山あります。例えば、以下のようなものです。
エンジニア向けデータ分析サマーインターンシップに参加して - Gunosyデータ分析ブログ
こんにちは、来年度からデータ分析部に所属する山田です。 今はまだ学生です。 一足先にGunosy Summer Internship 2017 データ分析コースのメンターアルバイトとして参加したので、その様子や知見を記していきたいと思います！ Gunosy Summer Internship 2017 について 「データ分析コース」の様子 講義 ランチ・新卒トーク ワーク ベンチマークシステム 作業環境 結果発表 インターンでの気付き（メンター山田） インターン参加者の感想 第一回 京都大学大学院 澤田さん 手法について 限られた時間で形にすること 教訓みたいなもの 東京大学 原田さん 用いた手法について 参加してみての感想 東京大学 丹羽さん 用いた手法、時間の使い方 学びと感想 筑波大学 小林さん 用いた手法について 感想 インターン参加者の感想 第二回 大阪大学 中村さん 分析に用い
Pine64を10台でクラスタ組んで、Celeryで分散基盤を使って効率的に機械学習する - にほんごのれんしゅう
Pine64を10台でクラスタ組んで、Celeryで分散基盤を使って効率的に機械学習する Pine64とRock64 Rasphberry Piを個人で５台ほど所有しているのですが、如何せん、機械学習や計算リソースが必要なプログラミングには向いていないしパワーが足りません。何よりメモリが圧倒的に足りないです Armと呼ばれるスマートフォンに入っているようなアーキテクチャのCPUが今後来るのではないか、という期待の元[1]、10台ほどネット通販にて、購入にしてクラスタを組んでみました PINE64-LTS(2GB)という撰品で64bitのArmアーキテクチャの製品で、一個$35程度です 最近、さらに高速で大メモリのものが出ました ROCK64(4GB)で、これは$45程度です。ギリギリこれぐらいで遅い計算機として使えるという印象があり、やはりパワーは大事です 図1. 組んだクラスタの写真 C
実務の現場に多い時系列データ分析の際に注意しておきたい点を列挙してみる - 渋谷駅前で働くデータサイエンティストのブログ
こういうメタ分析系の記事を書く時というのは大抵ネタ切れの時なんですが（汗）、最近になってこの辺のポイントでつまずいて困っているビジネスデータ分析の現場の話を聞くことがまた増えてきたので自分向けの備忘録も兼ねて記事としてまとめておきます。 そうそう、時系列分析の話って厳密にやり始めるとキリがないので、例えば単位根過程まわり（特に共和分のあたりを含めた複数時系列間の関係性の話とか）は「トレンドに注意せよ」という大きなくくりにまとめて、厳密な議論は割愛して出来る限り実務面で押さえるべきポイントに絞ろうと思います*1。悪しからずご了承あれ。 周期性のあるデータには真っ先に季節調整を ビジネス時系列データは例えば毎日毎時の売上高とか契約数とかコンバージョン数とか、どこからどう見ても曜日変動とか24時間変動などの周期性が乗っているデータであることが多いです。にもかかわらず、その手の周期性に何の処理もせ
機械学習への階段 - 西尾泰和のScrapbox
Q4で「スパムである/ない」を出力するってさっきは考えたけど、ここで「スパムでないメールのリストを出力」でもいいかも
サポートベクターマシン（SVM）
トップページ→研究分野と周辺→ニューラルネットワーク→ サポートベクターマシン（SVM）は、1995年頃にAT&TのV.Vapnikが発表したパターン識別用の教師あり機械学習方法であり、局所解収束の問題が無い長所がある。 「マージン最大化」というアイデア等で汎化能力も高め、現在知られている方法としては、最も優秀なパターン識別能力を持つとされている。 また、カーネル・トリックという魔法のような巧妙な方法で、線形分離不可能な場合でも適用可能になった事で応用範囲が格段に広がり、近年研究が盛んになっている。 しかし、データを2つのグループに分類する問題には優れているが、多クラスの分類にそのまま適用出来ず、計算量が多い、カーネル関数の選択の基準も無い等の課題も指摘され、一概に誤差逆伝播法等と比較して優れていると言い切れるものでもない。 SVMは厳密にはニューラルネットワークではないが、中間層から出力
エントロピーとユークリッド距離の違い
分布（つまりは関数）を要素(いわば「点」）とする空間（関数空間）では、二つの関数（点）の間の「近さ」ってものを定義してやらないと、隔たりを測りようがありません。比較をする目的に応じて尺度を作ってやる訳で、KL情報量もそのひとつということです。 ご質問にある数値例は、「二つの分布（確率密度関数）の間のユークリッド距離の例」としては不適切でしょう。分布f, gの間のユークリッド距離D(f,g)の２乗（普通は「二乗ノルム」と言いますが）すなわち (D(f,g)^2) = ∫ ((f(t)-g(t))^2) dt (∫はf,gの定義域に関する定積分） が役に立つのは、「tが幾らであろうと、また、f(t), g(t)が幾らであろうと、両者の差の絶対値が同じであればf, gの隔たりは同程度」と考えることが適切であるような場合です。 一方、f,gが確率密度関数である場合、例えば変量tが[T, T+1]の
scikit-optimize: sequential model-based optimization in Python — scikit-optimize 0.8.1 documentation
scikit-optimize Sequential model-based optimization in Python Getting Started What's New in 0.8.1 GitHub Sequential model-based optimization Built on NumPy, SciPy, and Scikit-Learn Open source, commercially usable - BSD license BayesSearchCV Scikit-learn hyperparameter search wrapper. Search for parameters of machine learning models that result in best cross-validation performance Algorithms: Baye
ScholarlyCommons :: Home
English Čeština Deutsch Español Français Gàidhlig Latviešu Magyar Nederlands Português Português do Brasil Suomi Svenska Türkçe Қазақ বাংলা हिंदी Ελληνικά
最大エントロピーモデルについて（CRF への前振り） - アスペ日記
最大エントロピーモデルについての解説。 既存の資料としては、A Simple Introduction to Maximum Entropy Models for Natural Language Processing や「言語処理のための機械学習入門」（通称高村本）が詳しい。 記事中でもその用語を適宜使ったり、内容を引用したりする。 ここでは、できるだけ直感的に理解できるような説明を目指す。 まず、最大エントロピーモデルとは何か。 最大エントロピーモデルは、分類を行う時に使われる。 たとえば、あるレビューに出てきた単語（good とか bad とか）から、そのレビューがポジティブなのかネガティブなのか分類する、というようなもの。 この分類先のことをクラスと呼ぶ。 最大エントロピーモデルは識別モデルの一種。 識別モデルの他には生成モデルというものもある。 これらの違いは、レビューの例で言う
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://web.stanford.edu/~rqi/pointnet/docs/cvpr17_pointnet_slides.pdf
https://mediapipe.dev/
Exploring Embeddings for Categorical Variables with Keras
強化学習その1
クロスエントロピー - 西尾泰和のScrapbox
https://orsj.org/wp-content/or-archives50/pdf/bul/Vol.46_05_225.pdf
Log Loss and Cross Entropy are Almost the Same
Deep Learning
