タグ

2016年12月15日のブックマーク (8件)

  • Engadget | Technology News & Reviews

    The Biden Administration opens $285 million funding for ‘digital twin’ chip research institute

    Engadget | Technology News & Reviews
  • 自然言語処理の深層学習において転移学習はうまく行くのか? - yasuhisa's blog

    このエントリはDeep Learning Advent Calendar 2016 5日目のエントリです。EMNLP2016に出ていたHow Transferable are Neural Networks in NLP Applications?を読んだので、それについて書きます。 [1603.06111] How Transferable are Neural Networks in NLP Applications? モチベーション 画像方面では、あるタスク(source side)で学習させた深層学習の結果を、別データセット(target side)でソフトマックス層だけ再学習させる転移学習(Transfer Learning)がうまくいっていると報告されています。 [1311.2901] Visualizing and Understanding Convolutional Ne

    自然言語処理の深層学習において転移学習はうまく行くのか? - yasuhisa's blog
  • PCANetを実装してみた - Qiita

    PCANetというニューラルネットワークを実装しました。 論文 (arXiv) 実装 (GitHub) PCANetの概要 PCANetはその名の通り,ネットワークの重みをPCA(主成分分析)によって計算するCNNの一種です。 利点 PCANetには次のような特徴があります。 PCAで重みを計算するため学習が非常に高速である PCANetそのものの学習は教師ラベルを必要としない 調整が必要なハイパーパラメータが無い モデルが比較的単純なため実装しやすい 教師ラベルを必要としない PCANetは,画像から切り出したパッチをベクトルとみなし,その主成分をネットワークの重みとしています。 一般的なCNNでは,目標とする出力とネットワークの出力の差をネットワーク全体に逆伝搬することで学習を行っています。一方でPCANetは画像さえ与えられればあとはPCAをかけるだけで学習ができてしまうため,教師ラ

    PCANetを実装してみた - Qiita
  • DeepPredNetで地震の予想が出来るのか検証してみた - Qiita

    はじめに こちらはFOSS4G 2016 Tokyoで発表した内容です。 Deep Learningは勉強し始めたばかりなので至らない点が多々あるかと思います。 間違っているところがあったら突っ込んでいただければ幸いです。 弊社でのDeep Learning×GISの開発事例 タイトルで「DeepPredNetで地震の予想が出来るのか検証してみた」と書いているのですが、まずは弊社での開発事例をご紹介したいと思います。 弊社では受託開発で古地図の自動分類を行っていました。 古地図の地図記号から識別し、土地利用の領域ごとに色分けして分類するニューラルネットワークの開発しました。 実装方法 ・畳み込みニューラルネットワーク(CNN)で実装 ・ Google機械学習ライブラリTensorFlowを使用 ・ハイパースペクトルの航空写真から土地を分類するプログラムをもとに作成 当初の予想とその結果

    DeepPredNetで地震の予想が出来るのか検証してみた - Qiita
  • Python とデータ分析コンテストの実践

    FIT 2016 Tutorial 資料 スライド: http://goo.gl/MeMZyO Part2 資料: http://goo.gl/y6ZmKr Part3 資料: http://goo.gl/ATC9yv

    Python とデータ分析コンテストの実践
  • 医薬品設計とニューラルネットワーク - Qiita

    Nextremer Advent Calendar 2016の14日目の記事です。 医薬品設計含めケモインフォマティクスの分野でニューラルネットワークがどのように活用されているのか興味があり調べてみました。 簡単に医薬品設計について説明してから、これとニューラルネットワークの最近の動向について記述します。また最後に今回興味を持つきっかけとなった、Variational Auto Encoderを元にして新しい化学構造を生成する生成モデルベースのアプローチについても紹介したいと思います。 自分は有機化学を少しかじった程度なので、誤り等あったらご指摘お願いします。 医薬品設計とは 新しい薬を発見することが目標な創薬とは異なり、医薬品設計では特定の化学反応を理解してそのタスクに特化した分子を作り上げることを目標とします1 2。 例えばある蛋白質がある病気において重要な役割を果たすとわかった時、こ

    医薬品設計とニューラルネットワーク - Qiita
  • 機械学習モデルの実装における、テストについて - Qiita

    数あるフレームワークに付属するExample、機械学習モデルを実装してみた、という話。これらに共通して言えるのは「テストがない」ということです。 機械学習のモデルだって、アプリケーションに組み込まれればプロダクションコードの一部です。テストがない実装を番環境に組み込むか?というと通常そんなことありえないと思います。 (スタジオジブリ 紅の豚 より拝借) 忘れられがちな点ですが、機械学習モデルは「リリースした瞬間」が最高精度になります。なぜなら、リリースした瞬間こそがその時点で手に入るフルフルのデータを使って鍛え上げたモデルであり、それ以降はどんどん未知のデータが入ってくるためです。 そのため、モデルの精度、また妥当性をいつでも検証できるようにしておくというのはとても重要です。これは通常のコードにテストをつける理由と同等で、つまり機械学習モデルだからと言って特別ではないということです。

    機械学習モデルの実装における、テストについて - Qiita
  • 科学史から最小二乗法 (回帰分析) を説明してみる - ill-identified diary

    2016/12/15: にわかに閲覧者が増えたのでおかしなところを微修正 概要 統計学史をちょっと調べていておもしろかったのでまとめてみた 技術的にはすごく初歩的な話なので, 回帰分析 (最小二乗法) の入門的な「読み物」という位置づけになりそう 入門的な読み物なので, 特に最小二乗法の説明箇所は中学高校の数学の知識だけで理解できるような表現をしている, したつもり. PDF換算で 10 ページ (ただし画像が結構多い) 惑星の軌道を予測する連立方程式で惑星の軌道を予測する19世紀初頭にフランスの数学者ルジャンドル*1が最小二乗法のアイディアを最初に発表したが, ドイツ数学者ガウス*2が直後に自分こそが先に思いついたと主張し, 論争を生んだという (Abdulle & Wanner, 2002, 200 Years of Least Squares Method). しかし, いずれが先

    科学史から最小二乗法 (回帰分析) を説明してみる - ill-identified diary