2023.11.27 2005年から18年間にわたりGoogleで勤務した人物が振り返る「古き良き時代のGoogle」とその後の変容とは? スイス生まれのソフトウェア開発者であるイアン・ヒクソン氏は、2005年からGoogleに勤務してHTML5の仕様策定やオープンソースのマルチプラットフォーム開発フレームワークであるFlutter開発などに携わった人物です。2023年に18年間勤めたGoogleを退職したヒクソン氏が、Googleで体感した「Don […]
乗るしかないこのビッグウェーブに Deep Learning(深層学習)に関連するまとめページとして使用する予定です。Deep Learningに関する記事・スライド・論文・動画・書籍へのリンクをまとめています。最新の研究動向は全然把握できていないので今後研究を進めるなかで記録していきたいと思います。読んだ論文の概要も簡単にまとめていく予定です。本ブログでは、当面の間、Theanoを使って各種Deep Learningアルゴリズムを実装していきたいと思います。 関連ニュースなどはTwitterでも流しているので興味があったらフォローしてください。 すべてに目が通せず更新が追いついていません。私のはてなブックマークで[Deep Learning]というタグを付けて登録しています。まったく整理できていませんがご参考まで。 Theano編 TheanoをWindowsにインストール(2015/1
(編注:2020/10/01、2016/07/29、いただいたフィードバックをもとに記事を修正いたしました。) 目次: さまざまな勾配降下法 バッチ勾配降下法 確率的勾配降下法 ミニバッチ勾配降下法 課題 勾配降下法を最適化するアルゴリズム Momentum(慣性) Nesterovの加速勾配降下法 Adagrad Adadelta RMSprop Adam アルゴリズムの可視化 どのオプティマイザを選ぶべき? SGDの並列化と分散化 Hogwild! Downpour SGD SGDのための遅延耐性アルゴリズム TensorFlow Elastic Averaging SGD 最適化されたSGDに対する更なる戦略 シャッフル学習とカリキュラム学習 バッチ正規化 早期終了 勾配ノイズ 結論 参考文献 勾配降下法は、最適化のための最も知られたアルゴリズムの1つです。これまではニューラルネット
最近、畳み込みニューラルネットワークを使ったテキスト分類の実験をしていて、知見が溜まってきたのでそれについて何か記事を書こうと思っていた時に、こんな記事をみつけました。 http://www.wildml.com/2015/11/understanding-convolutional-neural-networks-for-nlp 畳み込みニューラルネットワークを自然言語処理に適用する話なのですが、この記事、個人的にわかりやすいなと思ったので、著者に許可をもらって日本語に翻訳しました。なお、この記事を読むにあたっては、ニューラルネットワークに関する基礎知識程度は必要かと思われます。 ※日本語としてよりわかりやすく自然になるように、原文を直訳していない箇所もいくつかありますのでご了承ください。翻訳の致命的なミスなどありましたら、Twitterなどで指摘いただければすみやかに修正します。 以下
2. 分散表現 (Hinton+ 1986) • 局所表現(local representation) • 各概念に1つの計算要素 (記号, ニューロン, 次元) を割り当て • 分散表現(distributed representation) • 各概念は複数の計算要素で表現される • 各計算要素は複数の概念の表現に関与する 2015-05-31 OS-1 (2)意味と理解のコンピューティング 2 バス 萌えバス … … #2948 … … #19023840334 バス 萌えバス萌えトラック ニューロンの 興奮パターン ≒ベクトル表現 http://ja.wikipedia.org/wiki/富士急山梨バス http://saori223.web.fc2.com/ 3. 構成性(Frege 1892) • Partee (1984) • The meaning of an expres
1. The document discusses the history and recent developments in natural language processing and deep learning. It provides an overview of seminal NLP papers from the 1990s to 2010s and deep learning architectures from 2003 to present. 2. Key deep learning models discussed include neural language models, word2vec, convolutional neural networks, and LSTMs. The document also notes the increasing int
追記(2017年7月) こちらのスキル要件ですが、2017年版を新たに書きましたので是非そちらをご覧ください。 「データサイエンティストというかデータ分析職に就くためのスキル要件」という話題が某所であったんですが、僕にとって馴染みのあるTokyoR界隈で実際に企業のデータ分析職で活躍している人たちのスキルを眺めてみるに、 みどりぼん程度の統計学の知識 はじパタ程度の機械学習の知識 RかPythonでコードが組める SQLが書ける というのが全員の最大公約数=下限ラインかなぁと。そんなわけで、ちょろっと色々与太話を書いてみます。なお僕の周りの半径5mに限った真実かもしれませんので、皆さん自身がどこかのデータサイエンティスト()募集に応募して蹴られたとしても何の保証もいたしかねますので悪しからず。 統計学の知識は「みどりぼん以上」 データ解析のための統計モデリング入門――一般化線形モデル・階層
Cognito のユーザー認証基盤! AWS Summit 2016 Chicago にて Amazon Cognito の新機能「User Pools」が発表されました!! 本日 (2016/04/21) より Public Beta がご利用いただけます。 [New] Amazon Cognito 向け User Pools | Amazon Web Services ブログ これまで Cognito の認証には Amazon や Google、Facebook、Twitter またはカスタムプロバイダ (自前) のアカウントが使用できましたが、 User Pools では Cognito がユーザーアカウントの基盤を持ち、アカウント登録やサインアップなどといった機能をマネージドに提供してくれます。 AWS らしいスケール可能で安全なユーザー認証基盤を簡単に構築することができます。 U
9. 9 Enterprise Applications Virtual Desktop Sharing & Collaboration Platform Services Analytics Hadoop Real-time Streaming Data Data Warehouse Data Pipelines App Services Queuing & Notifications Workflow App streaming Transcoding Email Search Deployment & Management One-click web app deployment Dev/ops resource management Resource Templates Mobile Services Identity Sync Mobile Analytics Push Noti
Start building immediately using 190+ unique services.
「生産現場でのデータ活用が、次のステップに進みつつある」──昨年の暮れにオムロンの綾部工場を取材した際に、記者は強く実感した。 まずは「見える化」が先行したデータ活用 これまでのステップは、センサーから収集したデータを分析し、その傾向を把握することが中心だった。分析した結果は、グラフやアラートといった「見える化」によって人間が識別できる表現に変換され、それを人間が参照して判断し、何らかの成果につながるアクションを起こすことに利用されていた。 例えば、「生産設備がもうすぐ故障しそうだ」という傾向を把握する取り組み。これによって故障を事前に予兆し、生産設備が故障停止してしまう前に部品を交換できるようになる。生産効率を低下させる原因になる故障停止の解消につながる。 「生産設備の稼動ロス」や「作業員の作業ロス」などの傾向も把握する取り組みがある。これによって、誰も気づかなかった生産現場に潜むムダを
米グーグルの研究部門であるGoogle DeepMindが開発した囲碁AI(人工知能)「AlphaGo」と、韓国のプロ棋士イ・セドル氏が2016年3月9日~15日に韓国で実施した五番勝負は、イ・セドル氏が第四局で一矢を報いたものの、4勝1敗でAlphaGoの圧勝に終わった。この五番勝負は、第三次AIブームを牽引するディープラーニング(多層のニューラルネットによる機械学習)のデモンストレーションという枠を超え、その強みと弱点、ビジネス応用の方向性を浮き彫りにした。 今回の五番勝負が改めて示したディープラーニングの強みは、このAI技術が用途によらず、極めて汎用的に使えるという点だ。 AlphaGoのソフトウエアには、囲碁のルールすら組み込まれていない。過去の棋譜をニューラルネットに入力する「教師あり学習」と、勝利を報酬に囲碁AI同士を対局させて鍛える「強化学習(教師なし学習)」だけで、世界最強
「(ハンディキャップなしでプロ棋士に勝つには)たぶん10年はかかるだろう」――Wired Magazineは2014年5月掲載の記事で、こんな囲碁AI作者の談話を紹介した。 それからわずか1年半。米グーグルのAI研究部門であるGoogle DeepMindは、2016年1月27日に発表した英Nature誌の論文で、同部門が開発した囲碁AI「AlphaGo」が2015年10月に欧州チャンピオンFan Hui氏と5回対戦し、全勝したことを明らかにした。Fan Hui氏はプロ2段で、欧州の囲碁大会で2013年、2014年、2015年と優勝していた。 DeepMindの研究チームは論文中でWiredの記事を引用し、「以前は少なくとも10年かかると思われていたが、コンピュータが史上初めて、囲碁のプロ棋士にハンディキャップ(置き石)なしで勝った」と勝利宣言してみせた。AlphaGoは2016年3月9日
チーム・団体・コミュニティ運営のための無料アプリ。 スケジュール共有と出欠確認、写真やファイルの共有、掲示板やメール配信など、機能豊富なグループウェアです。 おかげさまで 20周年 2万 グループ 突破! 62万 ユーザー 突破!
最近は人工知能分野の話題に事欠かないので、IT系に詳しくない人でも、Deep Learning がどうとか、人工知能がどうとかという話題を耳にすることが多いと思います。 猫も杓子も Deep Learning な世の中ですが、そもそも人工知能とか Deep Learning ってなんなんだっけ? という疑問に答えられる人は多くないはずです。 今回は、広く浅く、人工知能と Deep Learning について書きます (この記事をご覧になればわかるように、人工知能 = Deep Learning では決して無いのですが、両者はよく並んで紹介されるので、ここでも同列に書いています)。 最初に結論 Deep Learning は(真の)人工知能ではない。なんでもかんでも人工知能って呼ばない。 「Deep Learning」、「人工知能」ともにバズワード*1になりつつあるので気をつけよう。 コンピ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く