「量子」と組合せ最適化に関する怪しい言説 ―とある研究者の小言― - むしゃくしゃしてやった，今は反省している日記
最近，量子コンピュータの話題をニュースや新聞で見かけることが増えてきました． その中で気になってきたのが，組合せ最適化と量子コンピュータ（特に量子アニーリング）に関する怪しい言説．私自身は（古典コンピュータでの）組合せ最適化の研究をやってきて，量子コンピュータを研究しているわけではないのですが，さすがにこれはちょっと・・・と思う言説を何回か見かけてきました． 最近の「量子」に対する過熱ぶりは凄まじいので，こういう怪しい言説が広まるのは困りものです．すでにTwitter上には，“組合せ最適化は今のコンピュータでは解けない”とか“でも量子なら一瞬で解ける”という勘違いをしてしまっている人が多数見られます*1． さすがに危機感を覚えてきたので，この場できちんと指摘しておくことにしました． 今北産業(TL;DR) “古典コンピュータは組合せ最適化を解けない” → 古典コンピュータで組合せ最適化を解
強化学習 - 2020論文までの道のり(Q学習中心～R2D3, Agent57) - Qiita
強化学習の基礎から最近の論文までの道のりを繫ぎたいというモチベーションで，最初は強化学習の基礎の基礎の解説から，Q学習についてR2D3, Agent57あたりまで読んだ論文についてまとめてみました．Actor-Criticについては，Q学習との比較用にA3Cあたりを少しだけ書いています．あと，最後に軽くマルチエージェント強化学習(MARL)とオフライン強化学習(Offline RL)にも触れて紹介しています． 基礎の基礎 強化学習とは？ 教師あり学習，教師無し学習に並ぶ，機械学習の一分野． 端的に言うと，エージェントと呼ばれる行動主体が，ある環境のなかで得られる報酬を最大化する最適化問題． ただし，報酬を得るためにどうしたらよいかというのは非自明な場合が多く，また，報酬のみではスパースで扱いにくいので，途中の過程ででてくる状態や，エージェントの行動に価値を付与し，その価値を最大化する問題に
2021年最強になるか！？最新の画像認識モデルEfficientNetV2を解説 - Qiita
その他層の数も探索空間に入れています。ここで拡張率とは、MBConvの最初のConvでチャネル数を何倍にするかの係数のことで、こちらでより詳しく解説しています。 探索は精度$A$、ステップごとの学習時間$S$、パラメータサイズ$P$を用いて、$A\cdot S^w\cdot P^v$を最大化するように行われます。ここで$w=-0.07, v=-0.05$であり、これらの値は実験的に決定されています。 1.3.2 EfficientNetV2のアーキテクチャ 下表がEfficientNetV2のSサイズのモデルになります。 画像: "EfficientNetV2: Smaller Models and Faster Training", Tan, M., Le, Q., (2021) 比較のためにEfficientNet-B0(i.e. V1)のアーキテクチャも下に載せます。 画像: "Ef
FPGA を使って基本的なアルゴリズムのソーティングを劇的に高速化 (2) | ACRi Blog
ベースラインのマージロジック回路マージロジック回路の基本的な概念は2011年の国際会議 FPGA で Koch と Torresen によって紹介されました (論文 [3]) 。次の図はこの動作例を示します。 この例では、1, 3, 5, 7, 9, … というソートされた奇数の系列と、2, 4, 6, 8, 10, … というソートされた偶数の系列をマージして、1つのソートされた系列 1, 2, 3, 4, 5, 6, … を作ります。入力系列は FIFOA と FIFOB という2つの First In First Out バッファに格納されています。各クロックサイクルに、FIFOA と FIFOB の先頭レコード (つまり、それぞれのバッファに格納されているレコードの中の最小レコード) が比較され、小さい方がマルチプレクサ Mux により出力されます。サイクル1では、FIFOA の最
学習済み日本語word2vecとその評価について - 株式会社ホクソエムのブログ
ホクソエムサポーターの白井です。 今回は日本語の word2vec に着目し、日本語の学習済み word2vec の評価方法について紹介します。 自然言語は非構造化データであるため、単語や文章を計算機で扱いやすい表現に変換する必要があります。 そのための方法の1つに word2vec があり、Bag of Words (BoW) や tf-idf とならんでよく用いられます。 一般に、word2vec は Mikolovが提案した手法 (CBOW, Skip-gram) をはじめ、 GloVe や fastText など、単語をベクトルで表現する単語分散表現のことを指します。 word2vec は教師なし学習のため、コーパスさえ準備できれば誰でも新しい単語分散表現を学習することができます。 しかし、実際に word2vec を使う際に、どのように評価すれば良いのかがよく分からず、配布されて
ゲーム史に残る名作「パックマン」の最終仕様書全ページが学会誌で公開、生みの親が開発の舞台裏を語るインタビューも
by Rob Fahey 1980年にナムコから発売された「パックマン」は、黄色いパックマンを操作してモンスターにやられないよう注意しながら迷路内のドットを食べ尽くすというゲームです。パックマンの動きに合わせて動作を変えてくるモンスターの動きは当時のゲーマーたちを驚かせ、大ヒット。2005年には「最も成功した業務用ゲーム機」としてギネス世界記録の認定を受けました。 そんな「パックマン」を開発した岩谷徹氏へのインタビューと「パックマン」の最終仕様書が、人工知能学会の発行する学会誌「人工知能 Vol.34 No.1」で公開されています。本文のPDFファイル(22.07MB)は以下のリンク先にある「34-1_086-099_F00アーティクル1.pdf(22.07MB)」をクリックするとダウンロード可能です。 アーティクル ゲームAI の原点『パックマン』はいかにして生み出されたのか？：岩谷 徹
深層学習による非滑らかな関数の推定
3. 概要 Statistical Estimation for Non-Smooth Functions by Deep Neural Networks 今泉允聡（統計数理研究所） トピック 深層学習（多層ニューラルネットワーク；DNN） 目的 DNNが他手法より高い性能を発揮する原因を究明する ・回帰（教師有り学習）の一手法 ・他手法より高い性能を発揮 他手法：カーネル法・シリーズ法など...カーネル法・フーリエ法など 4. 概要 Statistical Estimation for Non-Smooth Functions by Deep Neural Networks 他手法の性能 << DNNの性能 主張 推定対象の関数 がある非滑らかな性質を持つとき アプローチ 回帰関数の推定の理論解析 関数の推定問題 Yi = f⇤ (Xi) + ✏i 未知関数 を n 個の観測 か
ニューラルネットワークが任意の関数を表現できることの視覚的証明 - ニューラルネットワークと深層学習
ニューラルネットワークと深層学習 What this book is about On the exercises and problems ニューラルネットワークを用いた手書き文字認識 逆伝播の仕組み ニューラルネットワークの学習の改善 ニューラルネットワークが任意の関数を表現できることの視覚的証明 ニューラルネットワークを訓練するのはなぜ難しいのか 深層学習 Appendix: 知性のある シンプルな アルゴリズムはあるか? Acknowledgements Frequently Asked Questions Sponsors Resources ニューラルネットワークに関して最も衝撃的な事実の1つは任意の関数を表現できることです。 例えば誰かから複雑で波打った関数$f(x)$を与えられたとします： この結果はニューラルネットワークが一種の普遍性を持っている事を示しています。 計算し
モダンな深層距離学習 (deep metric learning) 手法: SphereFace, CosFace, ArcFace - Qiita
はじめに 顔認識 (face recognition) 等の個体識別問題において、距離学習は非常に重要です。ここで個体識別問題というのは、顔認識を例に取ると下記のようなものです。 2つの顔画像ペアが与えられた際にその顔画像ペアが同一人物のものであるかを判定する1:1認証 N人の顔画像データが予め与えられた状態で、個人が特定されていない顔画像が入力された際に、その顔画像がN人のうちどれであるか、またはどれでもないかを判定する1:N認証 何故距離学習が重要かというと、クラス分類問題とは異なりクラス数が不定で各クラスに属する画像を事前に得ることができず1、クラス分類問題として解くことができないためである。このため、何かしらの学習済みモデルを利用して各画像から特徴ベクトルを抽出し、その特徴ベクトル間の距離がしきい値以下であれば同一人物、しきい値より大きければ異なる人物と判定する（コサイン類似度等の
MPRG : 機械知覚&ロボティクスグループ／中部大学
09 Nov 2018 解説&サーベイ 物体認識のための畳み込みニューラルネットワークの研究動向 1章 はじめに 2章 ILSVRCで振り返るCNNの進化 3章 最新のCNN改良手法 4章 各モデルの精度および処理速度の検証 5章 まとめ Download: PDF (Japanese) 電子情報通信学会論文誌に採録されました． 2012年の画像認識コンペティションILSVRCにおけるAlexNetの登場以降， 画像認識においては畳み込みニューラルネットワーク(CNN)を用いることがデファクトスタンダードとなった. ILSVRCでは毎年のように新たなCNNのモデルが提案され， 一貫して認識精度の向上に寄与してきた. CNNは画像分類だけではなく， セグメンテーションや物体検出など様々なタスクを解くためのベースネットワークとしても広く利用されてきている. 本稿では，AlexNet以降の代表的
論文紹介 Understanding Batch Normalization - じんべえざめのノート
今回は、NIPS2018に投稿されたUnderstanding Batch Normalizationという論文を読んだので、紹介していきたいと思います。この論文は、なぜバッチ正規化（Batch Normalization）が学習に効果的なのかを実証的なアプローチで検証した論文です。 この記事は、ニューラルネットワークの基礎（全結合層や畳み込み層）を理解している方を対象にしています。また、可能な限りバッチ正規化を知らない方でも理解できるようにしています。この記事を読み終わるころには、「なぜバッチ正規化が学習に効果的なのか」が分かるようになっています。 ニューラルネットの基礎は以下の記事で紹介しています。 ニューラルネットワーク入門 KelpNetでCNN この記事は論文を要約したものに説明を加えたものとなっています。記事内で１人称で語られている文章については、多くが論文の主張となっています
AlphaGoを開発したGoogleの人工知能研究部門が「機械学習によって書き順を考えながら文字を描くAI」を開発
書道や似顔絵に見られるように、私たち人間は絵画・書・立体の作品を見た時、デザインに感動するだけではなく、筆運びや構造などを考えて理解した上で作品を再現することができます。与えられた画像を再現する人工知能(AI)は今までも発表されてきましたが、最強の囲碁AI・AlphaGoを開発したGoogle DeepMindが発表した「Synthesizing Programs for Images using Reinforced Adversarial Learning」(敵対的強化学習を用いた描画プログラム合成)、略して「SPIRAL」は、対象となる文字や画像の書き順や構造を考えて学習しながら、自ら描画プログラムをアップデートしていくフレームワークだとのことです。 Learning to write programs that generate images | DeepMind https://
RL_Tutorial
15. 17 : 8 .6635 4//6 57 707 /6 5 Monte Carlo Q-Learning Actor-Critic Policy Gradient Deep Learning Deep Q-Network Double DQN Double Q-Learning GORILA （並列化） Dueling DQN A3C TRPO PPO UNREAL Generalized Advantage Estimator Advantage Q-Learning Prioritized Experience Replay SRASA 16. 18 : 8 .6635 4//6 57 707 /6 5 Monte Carlo Q-Learning Actor-Critic Policy Gradient Deep Learning Deep Q-Network Double
深層学習はガウス過程 - 作って遊ぶ機械学習。
おつかれさまです． 僕はあまり深層学習に関して記事を書くことはないのですが，ちょっと気になった論文があったので紹介します． [1711.00165] Deep Neural Networks as Gaussian Processes 論文はGoogle Brainの研究者らによるもので，NIPS2017 Bayesian Deep Learning WorkshopICLR2018にacceptされています．実は深層学習をガウス過程（Gaussian process）で構築するのはこの論文が初出ではないのですが，論文ではベイズ学習，深層学習，カーネル法を簡略かつ包括的に説明している内容になっているので非常に参考になります． さて，「深層学習はガウス過程」というのはちょっぴり宣伝的なタイトルにし過ぎてしまったのですが，もう少しだけ正確に論文の要点をまとめると次のようになります． 背景 単一
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
アルゴリズムビジュアル大事典
Super PINTO on Twitter: "写真のアニメ化リポジトリ。 面白いですね。 Tensorflow v1.15.2 で普通に動きました。 https://t.co/c79wr75q5z https://t.co/C8pUDUASM9"
Daisuke Okanohara on Twitter: "NeRFは座標と視点方向角を与えるとそこに物体が存在する確率と輝度を返すMLPを複数の位置視点付き画像から学習し、複雑なシーンの写実的な画像を任意の視点から生成できる。画像生成、空間表現でDCGANやGQN登場時並のインパクトがあ… https://t.co/1KC8jsny8Y"
Kazunori Sato on Twitter: "強化学習の基礎的な考え方と問題の分類 https://t.co/RrdRmVcfJt"
深層強化学習の最前線 - Speaker Deck
ニコニコ動画（Re:仮）
