タグ

masatoiのブックマーク (1,103)

  • NIPS2017 気になった論文10本まとめてみる - May the Neural Networks be with you

    こんにちは@shunk031です。好きなべ物はニューラルネットワークです。 Advent Calendarの季節に乗じてブログを更新してみようと思います。 機械学習のトップカンファレンスであるNIPS2017が12月4日から9日にかけてアメリカのロングビーチにて行われます。先日NIPS2017のProceedingsが公開され、Acceptされた論文が読めるようになっています。 今回個人的に気になった論文10について、ざっくりとした内容を載せたいと思います。Acceptされた多数の論文の中で詳細に読むものを選ぶ基準として使ってもらえたりしたら幸いです。 目次 目次 Regularizing Deep Neural Networks by Noise: Its Interpretation and Optimization DropoutNet: Addressing Cold Star

    masatoi
    masatoi 2017/12/03
    この中だと決定木の特徴量の重要度の話が気になる
  • いまから始めるCommon Lisp - Qiita

    この記事はLisp Advent Calendar 2017の二日目の記事です。 はじめに この記事は、Common Lispという初めての人には初めましてな言語の入門記事です。 この世には、Common Lispというとってもカッコいい言語が存在します。その言語はANSIで規格が定められており、宇宙空間で動いたり深海で動いたりし、メタプログラミングが可能で、しかもC言語並に速いという、超クールな言語なのです。 歴史あり、逸話ありのLispであって、実用的と言われるLispです。そんな言語、いますぐに始めてみたいと思いますよね? しかしググってみると、なんだか処理系っていうの (?) がたくさんあったりしてどれを選んでいいのかわからない。rbenv的なものはないの? パッケージマネージャは? アプリケーションのビルドとかどうしたらいいの? ぱっと実用的なプログラムをどう書いたらいいかわから

    いまから始めるCommon Lisp - Qiita
  • ニューラルネットの逆襲から5年後 | Preferred Research

    私が2012年にニューラルネットの逆襲(当時のコメント)というのをブログに書いてからちょうど5年が経ちました。当時はまだDeep Learningという言葉が広まっておらず、AIという言葉を使うのが憚られるような時代でした。私達が、Preferred Networks(PFN)を立ち上げIoT、AIにフォーカスするのはそれから1年半後のことです。 この5年を振り返る良いタイミングだと思うので考えてみたいと思います。 1. Deep Learning Tsunami 多くの分野がこの5年間でDeep Learningの大きな影響を受け、分野特化の手法がDeep Learningベースの手法に置き換わることになりました。NLP(自然言語処理)の重鎮であるChris Manning教授もNLPで起きた現象を「Deep Learning Tsunami」[link] とよびその衝撃の大きさを表して

    ニューラルネットの逆襲から5年後 | Preferred Research
    masatoi
    masatoi 2017/11/30
    "Chainerは開発者の得居がGW明けに突然作ってきて、"
  • Visualizing Random Forests

    masatoi
    masatoi 2017/11/24
    バークレイ校の授業スライドらしいがランダムフォレストのOut-of-bag Error Estimateの具体例とかが書いてあるので参考になるかも
  • ノーベル物理学賞受賞の中村氏「日本は研究者から選ばれない。上意下達が過ぎる」 ニュースイッチ by 日刊工業新聞社

    ー米国学術界の状況は。 「米国は基礎的な研究は国の資金にサポートされているが、工学系の研究室はほとんど民間資金で運営している。国のサポートは小さく、民間から資金を集められなければ研究を続けられない。工学系の教授の50%は自分の会社を持っていてほぼ100%が企業向けにコンサルしている。教授はベンチャー経営者のようなものだ。企業へのコンサルで接点を作り、共同研究の資金を集める。これを原資に研究体制を整える。私はベンチャー2社を経営しているが、多い方ではない」 「我々は教授4人のチームで研究センターを運営しており、教授一人約10人のドクターコースの学生を雇っている。私は年間で約1億円集めないと研究室が倒産する。このためチーム全体では年間4億円を集めている。窒化ガリウム系デバイスの研究では私たちが米国1、2位の規模になる」 ー2000年に渡米した直後から営業回りができたのでしょうか。 「始めからで

    ノーベル物理学賞受賞の中村氏「日本は研究者から選ばれない。上意下達が過ぎる」 ニュースイッチ by 日刊工業新聞社
    masatoi
    masatoi 2017/11/23
    まあ単純に移民を入れようとしても万事この調子だし高度技能人材は来ないよねー。人口減少分はAI/ロボット化で補うしかないし、それ向けに制度設計していくしかない。まずは紙を無くすところから始めるんだ
  • Random Forestで計算できる特徴量の重要度 - なにメモ

    (pixabay.comより) 1.背景とか Random Forest[1]とは、ランダムさがもつ利点を活用し、大量に作った決定木を効率よく学習させるという機械学習手法の一種です。SVMなどの既存の手法に比べて、特徴量の重要度が学習とともに計算できること、学習が早いこと、過学習が起きにくいこと(追記注釈1)などの利点が挙げられます。Kinectの姿勢推定に使われているらしいです。 最近、Random Forestをカジュアルに使う例が多く(特にうちの研究室)、一部パラメータやら出力やらがわからない人も多いと思います。使い方はTJOさんの資料[2]を読んでもらえれば理解できると思うし、詳細は波部先生の資料[3]をよんでもらえればわかると思います。 それで、いろいろな日語の資料をいくら読んでも、Random Forestがもつ特徴の1つである、特徴量の重要度の詳細に関してはほとんどノータッ

    Random Forestで計算できる特徴量の重要度 - なにメモ
    masatoi
    masatoi 2017/11/22
    これを実装したい
  • Let’s EncryptのSSL証明書で、安全なウェブサイトを公開 | さくらのナレッジ

    安全なウェブサイトを公開するため、無料で利用可能な Let's Encrypt の証明書を使う方法をご紹介します。Let's Encrypt の背景とSSL証明書の自動発行をはじめ、CentOS 7 上の Nginx ウェブサーバを SSL に対応する方法、そして、証明書を自動更新する方法を見ていきましょう(所要時間10~20分)。 なお、Let's Encrypt については既に中津川さんの記事「すべてのWebサイトの暗号化を目指すLet's Encryptを試す」で取り上げられていますが、今回は新しいクライアント certbot-auto を使う方法や、証明書の自動更新の仕方をとりあげます。 こんにちは!こんにちは! みなさん、はじめまして。さくらインターネットの前佛雅人(ぜんぶつまさひと)です。さくらのナレッジに何か書け(業務命令)ということで、皆さんがサーバをより活用できるよう、ナ

    Let’s EncryptのSSL証明書で、安全なウェブサイトを公開 | さくらのナレッジ
    masatoi
    masatoi 2017/11/18
    Let's Encryptでタダでhttps化できるのかー!と思いnginxを設定してみたけどマイナーなブラウザだと普通に警告出るな
  • コンピューティング('15) | 放送大学オープンコースウェア

    ページの先頭です ラジオ授業科目一覧 コンピューティング('15) コンピューティング('15)-原理とその展開- 回 テーマ 第1回 コンピューティングと状態遷移 第2回 オートマトン 第3回 チューリング機械 第4回 計算と論理 第5回 命令型計算モデル 第6回 ホーア論理 第7回 並列・分散計算 第8回 ラムダ計算 第9回 関数プログラミング 第10回 計算の複雑さ 第11回 計算量の理論 第12回 いろいろな計算機構 第13回 数値の計算 第14回 現代のソフトウェア開発 第15回 コンピューティングの未来 よくあるご質問 お問い合わせ 情報公表 入札情報 学園(法人)情報 採用情報 このサイトについて © The Open University of Japan, All rights reserved. 〒261-8586 千葉市美浜区若葉2-11 Tel:043-276-51

    masatoi
    masatoi 2017/11/17
    イベント周回中耳がヒマだったので放送大学でも聞くかとradikoで放送大学を流したらKyoto Common Lispの萩谷先生が出ていたのでコース全体のアーカイブを探したらあった
  • Leiningen のテンプレート機能とは一体なんなのか - Qiita

    たまにはノウハウ的なことを書いておいたほうが良いと思ったので書きます。 Leiningen のテンプレートが何かを知っていて、バージョンを指定出来るという話を知っている場合 テンプレートを使う意義について に進んでください。 Leiningen テンプレートとは Leiningen というツールについて改めて説明する必要はないと思いますが、もし分らなければ以下を参照してください。 Leiningenの導入(1): 概要とインストール / clojournal さて、この Leiningen というツールには テンプレート という機能が備っています。 どういう機能かというと 公開されているプロジェクトの雛形を展開できる または 良く使うプロジェクトの雛形を公開できる というものです。 これらは次のように利用することが出来ます。 $TEMPLATE_NAME は省略可能でその場合は defau

    Leiningen のテンプレート機能とは一体なんなのか - Qiita
    masatoi
    masatoi 2017/11/13
    ほほうテンプレートは初学者にいいと
  • 意外と知られてない、おっさんでも頭のキレと集中力が一日中続くようにする方法 - ふろむだ@分裂勘違い君劇場

    「年をとって、頭のキレと集中力が続かなくなってきた」と言う人は、集中力の投資戦略を間違えていることが多い。 一番まずいのは、なけなしの集中力を、仕事や勉強に使い果たしてしまうことだ。 仕事や勉強で集中力を使い果たしてしまうから、「集中力を上げること」に投資すべき集中力が残っていない。 これでは、集中力は、経年劣化で低下していくばかりだ。 これを避けるためには、手持ちの集中力を「集中力を上げること」に最優先に投資するようにする。 もちろん、ただ漫然と、運動、瞑想、睡眠、野菜をやっても、集中力は上がらない。 重要なのは、「具体的には、どうすれば集中力が上がるか?」だ。 おっさんは眠りの質が悪い もちろん、頭のキレと集中力を上げるのに、一番投資効果が高いのは、「睡眠の質と量を上げる」ことだとは分かっているが、 話はそんなに簡単ではない。 なぜなら、おっさんになってくると、「深く長く眠る能力」がど

    意外と知られてない、おっさんでも頭のキレと集中力が一日中続くようにする方法 - ふろむだ@分裂勘違い君劇場
    masatoi
    masatoi 2017/11/12
    朝起きたら布団もたたまずにとりあえず散歩にいくというのはやっていた
  • Lisp Advent Calendar 2017 - Qiita

    The Qiita Advent Calendar 2017 is supported by the following companies, organizations, and services.

    Lisp Advent Calendar 2017 - Qiita
    masatoi
    masatoi 2017/11/10
    なにか書きます!
  • 広く使える情報量規準(WAIC)

    このページをご覧いただき、ありがとうございます。 ここでは、情報量規準 WAIC を紹介しています。 ベイズ推測のための情報量規準(WAIC)が導出されました。 WAIC は(真の分布、確率モデル、事前分布)がどのような場合でも使う ことができます。他の規準と異なり理論的な基盤を持っています。 (0) モデル選択やハイパーパラメータの最適化に使えます。 (1) 漸近的に汎化損失と同じ平均値と同じ分散を持ちます。 (2) WAIC は簡単に計算できます。 (3) 真の分布が確率モデルで実現可能でなくても使えます。事前分布が真の事前分布でなくても使えます。 (4) 平均対数損失を最小にするパラメータがユニークでなくても使えます。 平均対数損失を最小にするパラメータが特異点を含む解析的集合であっても 使えます(注1)。 (5) フィッシャー情報行列が正則でなくても使えます。 (6) 事後分布が正

  • Extreme Learning Machines on High Dimensional and Large Data Applications: A Survey

  • Emacs、Guile、Emacs Lispの未来 | POSTD

    GNU Emacs は、フリーソフトの世界で最も長く、継続的に開発されてきたアプリケーションの1つです。考え方によっては、30年以上を経て、これを複数世代のプロジェクトと見なすことができます。しかし、これだけ長寿であると課題もあります。Emacsコミュニティの多くの人たちは、そろそろエディタ内部のLispインタプリタを、より高速で最新のものにリプレースする時だと結論付けてきましたが、Emacsの大半が動作している基礎となる仮想マシンを入れ替えると、Lispによる Emacs特有の性質 に与える影響を含め、大規模な影響が出ます。 この話題は以前にも上がりましたが、最近では9月11日にChris WebberがEmacs開発リストに、Robin Templetonの Guile-Emacs への作業状況に関して質問を しています 。その名前から分かるように、Guile-Emacsは内部のEma

    Emacs、Guile、Emacs Lispの未来 | POSTD
    masatoi
    masatoi 2017/11/06
    ここからあまり進展がなかったということなのか
  • 布団から腕すら出さずに会社を休む [Google Home] - Qiita

    時は遡ること1年前… 以前、こんな記事を書きました。 会社が休みになるボタンを作ってみた [Amazon Dash Button] しかし、この Amazon Dash Button をハックした方式では以下の問題点がありました。 同ネットワーク内にサーバを立てておく必要がある ハック的な使い方をしているため、動作不安定 目を開ける必要がある ボタンを押す動作すら面倒くさい ノールックでボタンを押そうとするとボタン(半休/全休)を間違える そのくらい我慢しろや!という項目もありますが、 やはり運用していく上で一番面倒だったのは、自サーバをローカルに立てておく必要がある点でした。 ネットワークに流れる ARP パケットをイベントのトリガーにする仕組みなので、 サーバをクラウドへ持っていくことができなかったのです。 (あくまで、一般向けの Amazon Dash Button をハックして利用

    布団から腕すら出さずに会社を休む [Google Home] - Qiita
    masatoi
    masatoi 2017/11/05
    Gmailの操作もできないことはないのか
  • Common Lispのお宅拝見: CMU Common Lisp篇 — #:g1

    masatoi
    masatoi 2017/11/04
    Claspのベンチマークきた!これを見る限りまだまだこれからという感じ
  • 雰囲気でシェルを使っている人のためのシェル入門 | κeenのHappy Hacκing Blog

    κeenです。雰囲気でシェルを使ってる人が多いとのことだったので少しばかり込み入った知識を。 あと一応POSIX準拠かどうかも気にしながらやっていきます。 基礎知識編 シェルの種類 まず、POSIXにシェルが定義されています。 これに最低限の機能で準拠しているものをPOSIXシェルと呼ぶことにします。いわゆる/bin/shです。具体的な実装はbsh、ash、dashあたりでしょうか。 最低限の機能以上に色々拡張されているシェルを拡張POSIXシェルと呼ぶことにします。具体的な実装はbash、zsh、kshなどでしょうか。 ここでは触れませんがPOSIX準拠でないシェルも存在してcshやtcshなどのシェルがあります。あと確か最近話題のfishも違ったような。 さて、1つ問題になるのは普段使いのコマンドラインはおおむね拡張POSIXシェルでしょうが、サーバで使うシェルやデプロイスクリプトで呼

    雰囲気でシェルを使っている人のためのシェル入門 | κeenのHappy Hacκing Blog
    masatoi
    masatoi 2017/10/30
    雰囲気でシェルを使っていたのでスーパー為になった
  • http://arxiv.org/pdf/1411.4000

    masatoi
    masatoi 2017/10/27
    How to Scale Up Kernel Methods to Be As Good As Deep Neural Nets / fastfoodの流れをくむもの
  • Deep Fried Convnets

    masatoi
    masatoi 2017/10/27
  • Extreme Learning Machine

    はじめまして.デンソーアイティーラボラトリの坂倉義明(@a2ki)と申します.よろしくお願いします. さて,今日は,Extreme Learning Machine(ELM)についてご紹介します.ELMは,Single Layer FeedForward Neural Networkの高速な学習スキームです.今流行のDeep Networkとは真逆ですね. 高速化のポイントは,入力層から隠れ層への重みの学習を諦めることです.具体的な手順として,回帰の場合以下になります. 入力層から隠れ層への重みをランダムに生成 隠れ層の出力(活性化関数を通した)を計算 2と教示データの回帰係数を求め(疑似逆行列)隠れ層から出力層への重みとする そりゃはやいっすよね… ここで疑問になるのが,これで良いのかという点.これに関し提案者は,「有界・区分連続・な活性化関数,十分な数の隠れ層を用いれば,ELMは任意の

    Extreme Learning Machine