Residual neural network - Wikipedia
A residual block in a deep residual network. Here, the residual connection skips two layers. A residual neural network (also referred to as a residual network or ResNet)[1] is a deep learning architecture in which the layers learn residual functions with reference to the layer inputs. It was developed in 2015 for image recognition, and won the ImageNet Large Scale Visual Recognition Challenge (ILS
正規化線形関数 - Wikipedia
x = 0近傍での正規化線形関数（青）およびソフトプラス関数（緑）のプロット 正規化線形関数（せいきかせんけいかんすう、英: Rectified linear functionあるいは単にrectifier[注釈 1]とも）は、引数の正の部分として定義される活性化関数であり、次のように表される。 上式において、 はニューロンへの入力である。これはランプ関数（傾斜路関数）としても知られ、電気工学における半波整流回路と類似している。この活性化関数は、1993年にTangらによって新しいニューロンモデルとして最初に提案され、ニューラルネットワークの学習に適用し、その有効性が示された[1]。2000年にHahnloseらによって強い生物学的動機と数学的正当化を持って、動的ネットワークへに導入された[2][3]。2011年以前に広く使われていた活性化関数、例えばロジスティックシグモイド（これは確率論
Softmax function - Wikipedia
The softmax function, also known as softargmax[1]: 184 or normalized exponential function,[2]: 198 converts a tuple of K real numbers into a probability distribution of K possible outcomes. It is a generalization of the logistic function to multiple dimensions, and is used in multinomial logistic regression. The softmax function is often used as the last activation function of a neural network t
Keras Documentation
KERAS 3.0 RELEASED A superpower for ML developers Keras is a deep learning API designed for human beings, not machines. Keras focuses on debugging speed, code elegance & conciseness, maintainability, and deployability. When you choose Keras, your codebase is smaller, more readable, easier to iterate on. inputs = keras.Input(shape=(32, 32, 3)) x = layers.Conv2D(32, 3, activation="relu")(inputs) x =
Keras - Wikipedia
Kerasは、Pythonで書かれたオープンソースニューラルネットワークライブラリである。MXNet（英語版）、Deeplearning4j、TensorFlow、CNTK、Theano（英語版）の上部で動作することができる[2][3]。ディープニューラルネットワークを用いた迅速な実験を可能にするよう設計され、最小限、モジュール式、拡張可能であることに重点が置かれている。プロジェクトONEIROS (Open-ended Neuro-Electronic Intelligent Robot Operating System) の研究の一部として開発された[4]。中心的な開発者、メンテナはGoogleのエンジニアのFrançois Cholletである。 2017年、GoogleのTensorFlowチームは、TensorFlowのコアライブラリにおいてKerasをサポートすることを決定した
Limitations of Deep Learning for Vision, and How We Might Fix Them
Limitations of Deep Learning for Vision, and How We Might Fix Them History of Deep Learning We are witnessing the third rise of deep learning. The first two waves — 1950s–1960s and 1980s–1990s — generated considerable excitement but slowly ran out of steam, since these neural networks neither achieved their promised performance gains nor aided our understanding of biological vision systems. The th
単語埋め込みにおけるout-of-vocabularyの対応 - magnitudeの初期化
概要 magnitudeという単語埋め込みを扱うライブラリには、単語を構成する文字列を考慮したout-of-vocabularyの初期化の方法が実装されています。EMNLP 2018の論文と実際のコードを元に、その初期化の方法を実装して試してみました。 背景 KaggleのQuora Insincere Questionsコンペを終えて KaggleのQuora Insecure QuestionsのコンペではOOVの対応が重要だったっぽいけど、magnitudeはランダムベクトルの付与とかミススペルの対応とかしてくれるみたいだ。ロジック確認しないと何してるのかわからないけど…… https://t.co/d8tteqwwCp — やぐ (@yag_ays) February 26, 2019 KaggleのNLPコンペであるQuora Insincere Questions Class
機械学習とは簡単にいうと何？深層学習（ディープラーニング）との違いと活用事例 | スマートホーム(スマートハウス)情報サイト | iedge
人工知能（AI)には「機械学習」と「深層学習（ディープラーニング）」というものがあることをご存知でしょうか。現在、多くの人工知能に採用されているのは機械学習の機能です。 コンピュータが進化し、AIの性能が向上していくと同時に深層学習がメインになるともいわれていますが、両者の違いはどこにあるのでしょうか。今回は、現在もっとも多く採用されている機械学習について、その基本的な仕組みや活用事例などを中心に詳しく紹介していきます。 「機械学習」とは？ まずは簡単に解説 AIの仕組みを知るうえで欠かせないのが「機械学習」というものです。 機械学習とはその名の通り、コンピュータが物事を学習していくことです。これまでの一般的なコンピュータのプログラミングでは、人間と同じように画像を認識したり言語を認識したりすることは難しいものでした。 しかし、AIにおける技術のひとつである機械学習を活用することによって
GNNまとめ(1): GCNの導入 - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 2018年はグラフを扱う深層学習(GNN; graph neural network)が大きく発展した1年でした. その一方で, 提案される手法が多くなるに連れて, それぞれの関係性や全体像が見えづらくなっている印象があります. その問題を受けてか, 年末頃からこのような図を含むサーベイ論文[1-3]がarXivに立て続けに登場していたので, その内容をまとめてみました. 長いので3部作に分けようと思います. GNNまとめ(2): 様々なSpatial GCN - Qiita GNNまとめ(3): 発展編とこれから - Qii
Python用の自然言語処理ライブラリ”StanfordNLP”を試す | DevelopersIO
StanfordNLPとは StanfordNLPとは、スタンフォード大学の自然言語処理(Natural Language Processing, NLP)グループが提供するPythonのNLPライブラリです。 同じくスタンフォード大学のNLPグループが提供するStanford CoreNLPというJavaで書かれたNLPツールのサーバーにアクセスする為のパッケージが含まれています。 GitHub - StanfordNLP GitHub - Stanford CoreNLP ライセンス 基となるStanford CoreNLPはGNU GPL(v3以降)ですが、StanfordNLPはApache License Version 2.0となっています。 特徴 StanfordNLPは、Python3.6以降をサポートしており、トークナイザー、形態素解析、依存関係パーサー等の機能を有します
AAAI 2019 Highlights: Dialogue, reproducibility, and more
AAAI 2019 Highlights: Dialogue, reproducibility, and more This post discusses highlights of AAAI 2019. It covers dialogue, reproducibility, question answering, the Oxford style debate, invited talks, and a diverse set of research papers. This post discusses highlights of the Thirty-Third AAAI Conference on Artificial Intelligence (AAAI-19). I attended AAAI 2019 in Honolulu, Hawaii last week. Overa
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Batch normalization - Wikipedia
https://keras.io/layers/normalization/)
Dilution (neural networks) - Wikipedia
Keras documentation: Core layers
実践Deep Learning：Deep Learningで行う予測
DeepGlyph
特效平台
https://jp.techcrunch.com/2019/02/15/2019-02-13-xnors-saltine-sized-solar-powered-ai-hardware-redefines-the-edge/
https://jp.techcrunch.com/2019/02/03/2019-02-01-lets-save-the-bees-with-machine-learning/
