並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 40 件 / 470件

新着順 人気順

"neural network"の検索結果1 - 40 件 / 470件

  • A Neural Network Playground

      A Neural Network Playground
    • SONYの本気!AI開発ツール『Neural Network Console』が現場の常識をぶっ壊す | Ledge.ai

      SONY『深層学習モデルの開発ハードル無くそう』 TensorFlow、Keras、Theano、Caffeなど。これまでディープラーニング向けライブラリといえば、海外勢が圧倒的…という状況でした。 が、そんな状況が いきなりひっくり返る かもしれません。 なんとあの SONY がGUI&プログラミングいらずなAI開発ツールをリリース。突如無料で開放してくれたんです。 関連記事:ディープラーニングとは|AI・人工知能・歴史・仕組み・学習手法・活用事例 関連記事:ニューラルネットワークとは|AI・人工知能・仕組み・歴史・学習手法・活用事例 その名も『Neural Network Console』 ざっと紹介するとつまり “簡単にディープラーニングを行えるGUIツール” ということなんですが、なにより『ヤバイ』のが下記の特長点。 Windows対応!! というわけで伝えるべき点が多すぎるリリー

        SONYの本気!AI開発ツール『Neural Network Console』が現場の常識をぶっ壊す | Ledge.ai
      • Neural Network Console概説: GUIで直感的にディープラーニングしよう!

        Neural Network Console概説: GUIで直感的にディープラーニングしよう!:AI・機械学習のツール&ライブラリ Sonyが自社製品でも活用する信頼性の高いディープラーニングツール「NNC:Neural Network Console」の概要と特徴を筆者なりに分析して紹介。どんな人がどんな用途で使うべきかの指針も提案する。

          Neural Network Console概説: GUIで直感的にディープラーニングしよう!
        • Neural Network Console

          Neural Network Console Not just train and evaluate. You can design neural networks with fast and intuitive GUI. Not just train and evaluate. You can design neural networks with fast and intuitive GUI.

            Neural Network Console
          • Deep LearningとConvolutional Neural Network - Stimulator

            - はじめに - 前回機械学習ライブラリであるCaffeの導入記事を書いた。今回はその中に入ってるDeep Learningの一種、Convolutional Neural Network(CNN:畳み込みニューラルネットワーク)の紹介。 CNNは今話題の多層ニューラルネット、Deep Learningの一種であり、画像認識等の分野に大きな成果をもたらしています。 まあCNNすごい。本当、画像認識系だと一強といった感じ。 実装経験もあるのでよしなに書いてみようという記事。 追記:2018-10-24 この記事は2014年終盤、Deep Learningに関連するネット記事も数個しかなく、各論文でもCNNに関する理解が分かれていたような時期に、大学生であった筆者が書いた記事です。概念の理解の助けになるよう残していますが、正しくない箇所も後々多く出てくるかと思います。考慮の上、お読み頂ければと

              Deep LearningとConvolutional Neural Network - Stimulator
            • Neural Network Console

              Deep Learningを利用したAI開発に これから携わる方、 既に携わっている方、 こんな悩みはありませんか? Pythonや数式を学ばないといけない ネットワーク構造やパラメータを変更するなどコーディングだと試行錯誤に時間がかかる 学習した何十種類ものニューラルネットワークの管理に苦労している ニューラルネットワークのチューニングを自動化したい 開発環境の構築に手間と費用がかかる

                Neural Network Console
              • Convolutional Neural Networkとは何なのか - Qiita

                Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 機械学習の世界において、画像といえばConvolutional Neural Network(以下CNN)というのは、うどんといえば香川くらい当たり前のこととして認識されています。しかし、そのCNNとは何なのか、という解説は意外と少なかったりします。 そこで、本記事ではCNNについてその仕組みとメリットの解説を行っていきたいと思います。 なお、参考文献にも記載の通り解説の内容はStanfordのCNNの講座をベースにしています。こちらの講座はNeural NetworkからCNN、はてはTensorflowによる実装まで解説される予定な

                  Convolutional Neural Networkとは何なのか - Qiita
                • 定番のConvolutional Neural Networkをゼロから理解する

                  Convolutional Neural Networkとは何か CNNで解決できる問題 Convolutional Neural Networkの特徴 畳み込みとは 合成性 移動不変性 Convolutional Neural Networkの構成要素 ゼロパディング(zero padding) ストライド Fully Connected層 Fully Connected層の問題点 Convolution層 Pooling層 TensorFlowによる実装 TensorFlowのインストール CNNでMNIST文字認識する 参考 近年、コンピュータビジョンにおける最もイノベーションと言えるのはConvolutional Neural Networkといっても過言ではない。 コンピュータビジョンの業界におけるオリンピックとも言えるコンペティションがImageNetである。 そのコンペティシ

                    定番のConvolutional Neural Networkをゼロから理解する
                  • GitHub - google/sentencepiece: Unsupervised text tokenizer for Neural Network-based text generation.

                    You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

                      GitHub - google/sentencepiece: Unsupervised text tokenizer for Neural Network-based text generation.
                    • Neural Networkでの失敗経験やアンチパターンを語る - のんびりしているエンジニアの日記

                      皆さんこんにちは お元気ですか。私は元気です。 今日は珍しくNeural Networkを使っていく上での失敗経験について語ります。 学習の時に案外、失敗するのですが、だいたい原因は決まっています。そう大体は・・・ ということで、今回は失敗の経験、アンチパターンのようなものを書こうと思います。 Trouble1:学習時にNanを叩き出す。 原因1 cross-entropy誤差を使っている。 原因2 結果が小さすぎて、0と認識される。 原因3 重みがあらぬ方向へ学習する。 Trouble2:収束しない 原因1 学習率が高すぎる 原因2 学習率が低すぎる 原因3 適切な誤差関数ではない 原因4 活性化関数を誤った 原因5 そもそも入力が誤っている Trouble3:Validation Scoreが低い 原因1 過学習しているにも関わらず、気づかなかった。 原因2 与えるデータとラベルの1対

                      • これもある意味Deep Learning,Recurrent Neural Network Language Modelの話 [MLAC2013_9日目] — KiyuHub

                        これもある意味Deep Learning,Recurrent Neural Network Language Modelの話 [MLAC2013_9日目] この投稿は Machine Learning Advent Calendar 2013 の9日目の記事です. 本日は,Neural Network(NN)を利用したLanguage Model(LM),つまりNeural Network Language Model(NNLM)の一種であり, Recurrent Neural Network(RNN)を使ったRecurrent Neural Network Language Model(RNNLM)について説明します. RNNLMに行く前置きとしてざっくりいくつか用意したので,知ってそうな人は先へ進んでください. 前置きを入れているうちに長くなりすぎた.... しかも,そもそもNNの説明

                          これもある意味Deep Learning,Recurrent Neural Network Language Modelの話 [MLAC2013_9日目] — KiyuHub
                        • Recurrent Neural Networkとは何か、他のニューラルネットワークと何が違うのか

                          筆者が所属するリクルートテクノロジーズでは機械学習をはじめとしたデータ解析を用いた社内向けソリューションをAPIで提供するプロジェクト「A3RT(Analytics And Artificial Intelligence API via Recruit Technologies)」が2016年に発足し、自然言語処理や画像解析、レコメンドなどの分野において研究開発と実践への導入が盛んに行われています。 A3RTにおいて、筆者が取り組んでいる課題の1つとして「校正」があります。 リクルートはもともと紙を媒体とする情報誌を発行している会社で、ネット化が進んだ現在でも大量の求人票や記事を日々作成しています。作成される原稿はカスタマーとクライアントをつなぐ重要な媒体であり、そこに間違いがあると大きな機会損失となります。そのため、現状では人手でその原稿を校正するため膨大なコストと時間がかかっています。

                            Recurrent Neural Networkとは何か、他のニューラルネットワークと何が違うのか
                          • ( 論文調査 )deep neural network の ハイパーパラメータ チューニング知見資料 - Qiita

                            論文 は いくつかあるのでしょう が、まず は 大御所 Bengio先生 の 以下の論文 が 参考 に なります。 ( 論文 ) Yoshua Bengio Practical Recommendations for Gradient-Based Training of Deep Architectures 以下 の やりとり の中 で 言及されています。 Google group Chainer Japanese User Group 「LSTMにおける中間層のユニット数」 yukinoji お世話になっております。 chainerを利用してLSTMモデルを構築しているのですが、中間層のユニット数の設定が上手くいかず困っております。 現在およそ15000次元の数値ベクトルを入力として与え、それが0,1の2つのクラスのどちらに所属しているかを教師データとして与え、学習を行うよう実装している

                              ( 論文調査 )deep neural network の ハイパーパラメータ チューニング知見資料 - Qiita
                            • PHP FANN (Fast Artificial Neural Network) を使って儲けてみる - 忍び歩く男 - SLYWALKER

                              データ解析を勉強するにあたって、何かモチベーションになるものはないかと思っていました。そんなとき、「儲かったらいいんじゃね?」との考えにいたりました。 そこでお題にえらんだものが「競馬予想」です。とんでもねーなと思っていたところ、データ解析のお題としては「金融」とならんでベタのお題ということが判明。入力となるデータと答えの値がはっきりしているので、お題として適切なんだそうです。 今回は、かれこれ20年前に大学でかじったニューラルネットワークを使ってのディープラーニング(かっこいい響き)で予測してみました。 前置き ニューラルネットワークに詳しくありません。学生のとき、まじめに勉強していればよかったと後悔してる状態です。 根っからのPHPerなのでPHPを使います。PHPにはPHP-FANNというのがPECLにあるのでそれを使います。 PHP: FANN - Manual 概要はこのスライド

                                PHP FANN (Fast Artificial Neural Network) を使って儲けてみる - 忍び歩く男 - SLYWALKER
                              • Deep Forest :Deep Neural Networkの代替へ向けて - Qiita

                                Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 技術動向についていくことは多くの労力を必要とする。次々に新しい論文が発表されるためだ。 一方で最新論文さえも長年の地道な積み重ねの上にあることを、その引用文献から気付かされる。 ディープラーニングブームの流れも変わるのだろうか? 勉強のため、2017年2月28日付けでarXivに投稿されたZhi-Hua Zhou, Ji Feng「Deep Forest: Towards An Alternative to Deep Neural Networks」を翻訳した。 訳には誤りがないよう注意を払いましたが、完全であることを保証できないため、

                                  Deep Forest :Deep Neural Networkの代替へ向けて - Qiita
                                • Neural Network Libraries by Sony

                                  by Sony An open source software to make research, development and implementation of neural network more efficient. Get Started Features Write less do more Neural Network Libraries allows you to define a computation graph (neural network) intuitively with less amount of code. Dynamic computation graph support Dynamic computation graph used enables flexible runtime network construction. The Library

                                    Neural Network Libraries by Sony
                                  • Deep Learningライブラリ{mxnet}のR版でConvolutional Neural Networkをサクッと試してみた(追記3件あり) - 渋谷駅前で働くデータサイエンティストのブログ

                                    For non-native Japanese speakers: English version is below. ちょっと前から色々なところでちらほら名前を聞くなぁと思っていたMXnet。どうやらKagglerの間では急速に人気が高まっているようで、最近になってだいぶバグフィックスが進んだらしいというので僕もインストールしてみることにしました。 もうこれはご覧の通りで、あのXgboostも配布しているDMLCが出したものです。既にソースもドキュメントもかなり整備が進んでいて、ImageNetの学習済みモデルも配布されているようです。ということで、早速ちょっと触ってみようと思います。 Convolutional Neural Network (CNN)とは 言うまでもないことだとは思いますが、Convolutional Neural Network (CNN)という手法自体はDeep

                                      Deep Learningライブラリ{mxnet}のR版でConvolutional Neural Networkをサクッと試してみた(追記3件あり) - 渋谷駅前で働くデータサイエンティストのブログ
                                    • 校正担当者必見!? 地味な誤字脱字で泣かないためのRecurrent Neural Networkのスゴイ生かし方

                                      校正担当者必見!? 地味な誤字脱字で泣かないためのRecurrent Neural Networkのスゴイ生かし方:Deep Learningで始める文書解析入門(2)(1/2 ページ) 本連載では、Deep Learningの中でも、時系列データを扱うRecurrent Neural Networkについて解説。加えて、その応用方法として原稿校正(誤字脱字の検知)の自動化について解説します。今回は、本連載における「誤字脱字」の定義と「なぜRNNを利用する必要があるのか」「課題に対してRNNをどのように利用したのか」について。 本連載「Deep Learningで始める文書解析入門」ではDeep Learningの中でも時系列データを扱うRecurrent Neural Network(以下、RNN)とその応用方法としてリクルートグループ内で取り組んでいる原稿校正(誤字脱字の検知)の実現方

                                        校正担当者必見!? 地味な誤字脱字で泣かないためのRecurrent Neural Networkのスゴイ生かし方
                                      • GitHub - sony/nnabla: Neural Network Libraries

                                        Neural Network Libraries is a deep learning framework that is intended to be used for research, development and production. We aim to have it running everywhere: desktop PCs, HPC clusters, embedded devices and production servers. Neural Network Libraries - CUDA extension: An extension library of Neural Network Libraries that allows users to speed-up the computation on CUDA-capable GPUs. Neural Net

                                          GitHub - sony/nnabla: Neural Network Libraries
                                        • A Neural Network for Machine Translation, at Production Scale

                                          Posted by Quoc V. Le & Mike Schuster, Research Scientists, Google Brain Team Ten years ago, we announced the launch of Google Translate, together with the use of Phrase-Based Machine Translation as the key algorithm behind this service. Since then, rapid advances in machine intelligence have improved our speech recognition and image recognition capabilities, but improving machine translation remai

                                            A Neural Network for Machine Translation, at Production Scale
                                          • Convolutional Neural Networkを実装する - Qiita

                                            Deep Learning系のライブラリを試すのが流行っていますが、Exampleを動かすのはいいとしても、いざ実際のケースで使おうとするとうまくいかないことがよくあります。 なんとか動かしてみたけれど精度が出ない、データの加工の仕方が悪いのか、モデルのパラメーターが悪いのか、原因がぜんぜんわからん・・・という事態を乗り越えるには、やはり仕組みに対する理解が必要になってきます。 そんなわけで、本編では画像の用意という一番最初のスタートラインから、Chainerで実装したCNNを学習させるところまで、行うべき手順とその理由を解説していきたいと思います。 前段として理論編を書いていますが、ここではライブラリなどで設定しているパラメーターが、理論編の側とどのようにマッチするのかについても見ていきたいと思います。 なお、今回紹介するノウハウは下記リポジトリにまとめています。画像認識を行う際に役立て

                                              Convolutional Neural Networkを実装する - Qiita
                                            • Neural Network Consoleを使って五等分の花嫁を学習してみた - Qiita

                                              はじめに 機械学習を使って五等分の花嫁の予測をする記事はいくつかあるのですが、最新10巻までのデータを使ったもの、Neural Network Console(以下NNC)を使ったものが無かったので自分の練習がてら試してみました。 多少のネタバレを含みますので注意してください。 因みに私は三玖派です。 過程はいいから結果だけ見たい方はこちら。 Neural Network Consoleとは? Neural Network Consoleとは、SONYが開発したディープラーニング・ツールで、ドラッグ&ドロップでニューラルネットワークを編集できるため、数学やプログラミングの知識がない人でも簡単にディープラーニングを行うことができるツールです。また、学習にはクラウド上のGPUを使うので、頭もPCも低スペックな私でも簡単に学習モデルを作ることができます。 開発者である小林由幸氏自身による解説動画

                                                Neural Network Consoleを使って五等分の花嫁を学習してみた - Qiita
                                              • 認めたくないものだな… Neural Networkの力学系表現というものを - Qiita

                                                この記事は、NTTコミュニケーションズ Advent Calendar 2019の18日目の記事です。 昨日は @yusuke84 さんの記事、WebRTC Platform SkyWayのサポートについて考えていること でした。 メリークリスマス! はじめに 会社のAdvent Calendarということで、当初はある程度流れに忖度して技術的なTipsを書こう! とか考えて、Neural Networkについてネタ探ししてたのですが、結局自分が興味のある話、それも実装よりも理論一辺倒な話に落ち着いてしまった、本記事はそんな成れの果てです。 (まあ1人くらい暴走しても良いですよね、きっと) というわけで、Neural Networkを用いた物理系の表現について、少し前から気になってる話をツラツラと書いていきます。そのうちに、この辺の話を端緒に新規性のある手法を論文化するから、それ相応の評価

                                                  認めたくないものだな… Neural Networkの力学系表現というものを - Qiita
                                                • 最近、Neural Network Console の動画がやたら充実している件 - Qiita

                                                  1.はじめに 皆さん、Neural Network Console をご存知でしょうか? Neural Network Console は、2017年8月にSONYから発表されたディープラーニングの統合開発ソフトウエアです。プログラミング無しのドラッグ&ドロップだけで簡単にニューラルネットワークの設計開発が出来、しかもワークステーションの様な美しい画面なのに、なんと無料で提供されているんです(なんて太っ腹な!)。 かく言う私も、Pythonを覚えなくてもディープラーニングが出来ると言うことに凄い魅力を感じ、発表当初から1年間くらいは色々遊んでみた記憶があります。 最近、ひょんなことから、Neural Network Console 関係の動画がやたら充実(2020年1月17日時点で47本)していることに気づきチェックしてみると、チュートリアル以外にディープラーニングの一般的な知識について分

                                                    最近、Neural Network Console の動画がやたら充実している件 - Qiita
                                                  • 人工知能(AI)を実現するディープラーニング(深層学習)の統合開発環境Neural Network Consoleを公開 | プレスリリース | ソニーネットワークコミュニケーションズ 会社情報

                                                    人工知能(AI)を実現するディープラーニング(深層学習)の 統合開発環境Neural Network Consoleを公開 ~ ニューラルネットワーク構造の視覚化で効率的なプログラム生成を実現 ~ こちらに掲載されている情報は、発表日現在のものです。検索日と情報が異なる可能性がございますので、 あらかじめご了承ください。金額は消費税総額表示義務適用以前の表示となります。 ソニーはディープラーニング(深層学習)のプログラムを生成できる統合開発環境「コンソールソフトウェア:Neural Network Console(https://dl.sony.com/)」の無償提供を本日より開始しました。 プログラムエンジニアやデザイナーは、本格的なGUIを持つディープラーニング統合開発環境であるコンソールソフトウェアを用いることで、直感的なユーザーインターフェースで、ニューラルネットワークの設計、学習

                                                      人工知能(AI)を実現するディープラーニング(深層学習)の統合開発環境Neural Network Consoleを公開 | プレスリリース | ソニーネットワークコミュニケーションズ 会社情報
                                                    • A Neural Network in 11 lines of Python (Part 1) - i am trask

                                                      A bare bones neural network implementation to describe the inner workings of backpropagation. Posted by iamtrask on July 12, 2015 Summary: I learn best with toy code that I can play with. This tutorial teaches backpropagation via a very simple toy example, a short python implementation. Edit: Some folks have asked about a followup article, and I'm planning to write one. I'll tweet it out when it's

                                                      • BinaryNetとBinarized Deep Neural Network | 射撃しつつ前転

                                                        BinaryNet が最近話題になっている。ニューラルネットワークの二値化については前から興味があったので読んでみた。 ニューラルネットワークの二値化についてはこれまでも色々と研究があるようである。大きな方向性としては、まずはじめに実数値で重みを学習してそれを二値化するというやり方と、最初から二値の重みを学習するやり方がある。BinaryNetはそのどちらとも明確に分類しづらい、ちょっと変わった手法である。 BinaryConnectBinaryNetの前にBinaryConnectに触れておくことにする。どちらもBengioグループの研究である。BinaryConnectは大雑把に説明すると、以下の様な手法である。 weight matrix自体は実数で値を持っていて、forward/backwardの計算時に二値化する。パラメーター更新時は実数で持っている側のweight matrix

                                                        • The Neural Network Zoo - The Asimov Institute

                                                          With new neural network architectures popping up every now and then, it’s hard to keep track of them all. Knowing all the abbreviations being thrown around (DCIGN, BiLSTM, DCGAN, anyone?) can be a bit overwhelming at first. So I decided to compose a cheat sheet containing many of those architectures. Most of these are neural networks, some are completely different beasts. Though all of these archi

                                                            The Neural Network Zoo - The Asimov Institute
                                                          • Convolutional Neural Network

                                                            論文「Quoc V. Le, Marc'Aurelio Ranzato, Rajat Monga, Matthieu Devin, Kai Chen, Greg S. Corrado, Jeff Dean, Andrew Y. Ng. Building high-level features using large scale unsupervised learning. 29 Dec 2011(last (this) revised 12 Jun 2012).」を読 んでいると、わからんキーワードを調べるとまた別のわからんキーワードにぶつかり、という無限ループにハマッテしまいました。なので、もういっそきちんとニューラルネットワーク関連テクニックをまとめてしまおうと思った次第です。まずは(と言ってもこれだけかもだけど)、畳み込みニューラルネットワーク(Convolutional Neura

                                                              Convolutional Neural Network
                                                            • Neural Network Libraries by Sony

                                                              Neural Network Libraries by Sony ニューラルネットワークの研究・開発・実装を 効率化するオープンソースソフトウェア Get Started 特長 必要最小限の労力 Pythonを用いて、より少ないコード量で直観的に計算グラフ(ニューラルネットワーク)を定義することができます。 動的計算グラフのサポート 実行時に柔軟にニューラルネットワークを構築することができます。ニューラルネットワークの構築方法としては、静的計算グラフと動的計算グラフの両方が利用可能です。 どこでも実行 移植性を考慮した設計を採用しており、LinuxとWindowsの両方で動作します。 デバイスを選ばない コードのほとんどがC++14で実装されているため、組み込み機器にもほぼそのままの形で導入することができます。 機能の追加が簡単 適度に抽象化された関数とコードテンプレート生成機能を備えてお

                                                                Neural Network Libraries by Sony
                                                              • モデルアーキテクチャ観点からのDeep Neural Network高速化

                                                                モデルアーキテクチャ観点からのDeep Neural Network高速化 -Factorization -Efficient microarchitecture (module) -Pruning -Quantization -Distillation -Early termination Read less

                                                                  モデルアーキテクチャ観点からのDeep Neural Network高速化
                                                                • Neural Network Architectures

                                                                  My views on tech; views that are ideas and comments and like code constantly change and evolve. These views are my own, but feel free to comment and improve them.

                                                                  • Graph Neural Network を用いたグラフの木幅予測 - Preferred Networks Research & Development

                                                                    本記事は、2019年夏のインターンシップに参加された中野裕太さんによる寄稿です。 皆様はじめまして。2019 年 PFN 夏季インターンシップに参加していた北海道大学の中野裕太です。本ブログでは、私が夏季インターンで取り組んだテーマである、「Graph Neural Network を用いたグラフの木幅予測」について説明します。 要旨 与えられた無向グラフがどれくらい木に近いかを表す値である木幅は、グラフ上の組み合わせ最適化問題に対するアルゴリズムの効率性や解そのものと深く関係しています。しかし、木幅を計算することは NP 困難なため、木幅を計算するには頂点数に対し指数時間かかってしまいます。そこで、今回 Graph Neural Network を用いた 2 つの方法でこの問題にアプローチしました。1 つ目は、よく知られた既存のアルゴリズムと組み合わせ探索木の枝刈りを行い高速化を図り計算

                                                                      Graph Neural Network を用いたグラフの木幅予測 - Preferred Networks Research & Development
                                                                    • 基本的なRecurrent Neural Networkモデルを実装してみた - Qiita

                                                                      Recurrent Neural Network(再帰型ニューラルネット)に関心はあるが,なかなかコード作成に手がつかない,このようなケースが多くないだろうか?理由はいくつかあるが,私の場合は次のようなものが思い当たる. 単純にネットワークの構成が複雑.MLP(Multi-layer Perceptron)から入門してCNN(Convolutional-NN)に進むまでは,特殊なLayerがあるにせよ,信号の流れは順方向のみであった.(誤差の計算は除く.) MLPやCNNにおいては分かりやすい例題,(Deep Learningの’Hello World'と称される)"MNIST" があったが,そのような標準的な(スタンダードな)例題がRNNにはない. 因みにTheanoのDeep LearningやTensorFlowのTutorialは,言語モデルを扱ったものである.言語モデルに精通され

                                                                        基本的なRecurrent Neural Networkモデルを実装してみた - Qiita
                                                                      • 黒魔術への招待:Neural Network Stacking の探求 - 俵言

                                                                        この記事は Kaggle Advent Calendar 2020 の16日目の記事です。去年ネタ記事*1を書いたので今年は真面目なやつにしました。 はじめに Kaggler はコンペにおいてあらゆる手段を用いて評価指標の改善を目指します。特徴量エンジニアリング、モデルや学習手法の試行錯誤、特殊な前処理・後処理の考案、はたまた Leakage の利用に至るまで、ルールを破らない範囲であれば何でもする*2のが Kaggler です。今挙げた例はそのコンペ固有の性質(データの生成過程・分布、評価指標、... etc.)に着目することで大きな効果をもたらす場合が多いのですが、一方でいずれのコンペにおいても一定の効果が得られる手法があります。それは複数のモデルの予測結果を統合して予測を行う Ensemble です。Ensemble は統合するモデルに多様性があるほど性能が向上すると一般に知られてお

                                                                          黒魔術への招待:Neural Network Stacking の探求 - 俵言
                                                                        • A Neural Network Playground

                                                                            A Neural Network Playground
                                                                          • ニューラルネットへのベイズ推定 - Bayesian Neural Network - nykergoto’s blog

                                                                            ニューラルネットワークの過学習防止としてDropout という機構が用いられているのはご案内のとおりです。 この Dropout 、見方を変えるとディープラーニングにおける重みのベイズ推定に相当しているのではないか、という内容が Uncertainty in Deep Learning にて述べられていて、この記事ではその内容について解説していきたいと思います。 また末尾では実際にベイズ推定を実装して、予測がちゃんと不確実性を盛り込んだものになっているかどうか、を確認します。 基本的に記事の内容は元の論文(YARIN GAL さんの博士論文です)と同著者の解説ページを元にしています。それぞれ以下からアクセスできますので、解説じゃなくて自分で読みたい!という方はそちらを参考にしてください。個人的には解説も論文もとても読みやい (なんと数式もとても丁寧に記述されています!!) ので、英語が苦手

                                                                              ニューラルネットへのベイズ推定 - Bayesian Neural Network - nykergoto’s blog
                                                                            • Web Neural Network API

                                                                              Web Neural Network API W3C Candidate Recommendation Draft, 5 September 2024 More details about this document This version: https://www.w3.org/TR/2024/CRD-webnn-20240905/ Latest published version: https://www.w3.org/TR/webnn/ Editor's Draft: https://webmachinelearning.github.io/webnn/ Previous Versions: https://www.w3.org/TR/2024/CRD-webnn-20240830/ History: https://www.w3.org/standards/history/web

                                                                              • 3D Visualization of a Convolutional Neural Network

                                                                                Input image: Filter: Weighted input: Calculation: Output: Draw your number here Downsampled drawing: First guess: Second guess: Layer visibility Input layer Convolution layer 1 Downsampling layer 1 Convolution layer 2 Downsampling layer 2 Fully-connected layer 1 Fully-connected layer 2 Output layer Made by Adam Harley. Project details.

                                                                                • [Tensorflow Lite] Various Neural Network Model quantization methods for Tensorflow Lite (Weight Quantization, Integer Quantization, Full Integer Quantization, Float16 Quantization, EdgeTPU). As of May 05, 2020. - Qiita

                                                                                  [Tensorflow Lite] Various Neural Network Model quantization methods for Tensorflow Lite (Weight Quantization, Integer Quantization, Full Integer Quantization, Float16 Quantization, EdgeTPU). As of May 05, 2020.PythonDeepLearningTensorFlowPyTorchOpenVINO 日本語 English - Japanese - 1. Introduction 今回は私が半年間掛けてためてきた、学習済みモデルの量子化ワークフローをメモがてら共有したいと思います。 Tensorflow の checkpoint (.ckpt/.meta)、 FreezeGraph (.

                                                                                    [Tensorflow Lite] Various Neural Network Model quantization methods for Tensorflow Lite (Weight Quantization, Integer Quantization, Full Integer Quantization, Float16 Quantization, EdgeTPU). As of May 05, 2020. - Qiita