『ディープラーニング 学習する機械』は一人称で語られる壮大な物語にして、「AIの過去・現在・未来」の解説書 - 渋谷駅前で働くデータサイエンティストのブログ
ディープラーニング 学習する機械 ヤン・ルカン、人工知能を語る (ＫＳ科学一般書) 作者:ヤン・ルカン講談社Amazon 11月に入って勤務先のオフィスが本格的に再開されてから、久しぶりに会社のメールルームを覗きに行ったところ、届いていた（つまりご恵贈いただいていた）のがこちらの一冊です。Deep Learningの三開祖の一人にして2018年度のチューリング賞受賞者の一人でもある、ヤン・ルカン御大その人が著した『ディープラーニング 学習する機械』です。 本書は日本語版が出た直後から絶賛する声が聞こえてきていて、興味はあったのですが気を逸した感が否めなかったので、こうしてご恵贈いただけて有難い限りです。講談社サイエンティフィク様、まことに有難うございます。 ということで、早速ですが簡単にレビューしていこうと思います。 本書の内容 特に個人的に印象に残った点 全てのアルゴリズムに関する記述が
Shota Imai@えるエル on Twitter: "深層学習を使う場合の学習効率化,高速化などの手法,テクニックなどが非常に網羅的にまとめられたサーベイ論文です 研究や開発で深層学習を使う人には非常に重要な知見の宝庫 "Efficient Deep Learning: A Surv… https://t.co/wxaJZOzttb"
深層学習を使う場合の学習効率化,高速化などの手法,テクニックなどが非常に網羅的にまとめられたサーベイ論文です 研究や開発で深層学習を使う人には非常に重要な知見の宝庫 "Efficient Deep Learning: A Surv… https://t.co/wxaJZOzttb
「クジラの言葉を理解するための研究」では一体何が行われているのか？
マッコウクジラは人間の6倍という大きさの脳を有し、複雑な社会構造を持ち、「コーダ」と呼ばれるクリック音を使ったコミュニケーションと社会活動に多くの時間を費やしています。コーダは最短で10秒、長くて30分以上続くといわれていますが、クリック音を通してクジラたちがどのようなやり取りを行っているのかは、まだ謎に包まれています。そこでCetacean Translation Initiative(CETI)というプロジェクトでは、科学者によって「コーダを解読する」試みが行われています。 Cetacean Translation Initiative: a roadmap to deciphering the communication of sperm whales (PDFファイル)https://arxiv.org/ftp/arxiv/papers/2104/2104.08614.pdf Wi
Interpretable Machine Learning
Interpretable Machine Learning A Guide for Making Black Box Models Explainable. Christoph Molnar 2021-05-31 要約 機械学習は、製品や処理、研究を改善するための大きな可能性を秘めています。 しかし、コンピュータは通常、予測の説明をしません。これが機械学習を採用する障壁となっています。 本書は、機械学習モデルや、その判断を解釈可能なものにすることについて書かれています。 解釈可能性とは何かを説明した後、決定木、決定規則、線形回帰などの単純で解釈可能なモデルについて学びます。 その後の章では、特徴量の重要度 (feature importance)やALE(accumulated local effects)や、個々の予測を説明するLIMEやシャープレイ値のようなモデルに非依存な手法(mo
2021年最強になるか！？最新の画像認識モデルEfficientNetV2を解説 - Qiita
その他層の数も探索空間に入れています。ここで拡張率とは、MBConvの最初のConvでチャネル数を何倍にするかの係数のことで、こちらでより詳しく解説しています。 探索は精度$A$、ステップごとの学習時間$S$、パラメータサイズ$P$を用いて、$A\cdot S^w\cdot P^v$を最大化するように行われます。ここで$w=-0.07, v=-0.05$であり、これらの値は実験的に決定されています。 1.3.2 EfficientNetV2のアーキテクチャ 下表がEfficientNetV2のSサイズのモデルになります。 画像: "EfficientNetV2: Smaller Models and Faster Training", Tan, M., Le, Q., (2021) 比較のためにEfficientNet-B0(i.e. V1)のアーキテクチャも下に載せます。 画像: "Ef
StyleGAN2で属性を指定して顔画像を生成する - すぎゃーんメモ
memo.sugyan.com の記事の続き(？)。 ある程度の学習データを収集して学習させたモデルが出来たので、それを使って実際に色々やってみる。 StyleGAN2-ADA 学習 mapping出力と生成画像 生成画像の属性推定結果から潜在空間の偏りを抽出 表情推定 顔姿勢推定 髪領域推定 (顔解析) 年齢 (上手くいかず) 複合 Repository StyleGAN2-ADA 前回の記事でも書いたけど、厳選した16,000枚の画像を使って StyleGAN2-ADA を使って生成モデルを学習させてみた。 github.com これは StyleGAN2 から進化したもので、より少ない枚数からでも安定して学習が成功するようになっていて、さらにparameter数など調整されて学習や推論もより早くなっている、とのこと。 それまでのStyleGANシリーズはTensorFlowで実装され
古い写真の顔をディープラーニングでリアルに動かせる「Deep Nostalgia」 無料で利用可能
イスラエルの家系図サービス企業MyHeritageは2月25日（現地時間）、先祖などの古い写真の顔をディープラーニング技術でリアルに動かせる新サービス「Deep Nostalgia」をリリースした。無料アカウントを作成してログインし、アニメ化したい写真をアップロードすれば誰でも利用できる。5枚以上の写真をアニメ化したい場合は、サブスクリプションが必要だ。 MyHeritageはこれまで、古いモノクロ写真やカラー写真をシャープなカラー写真に変換するサービスを提供している。このサービスで変換済みの写真の顔をDeep Nostalgiaで動かすと、よりリアルだ。 複数の人が写っている写真では1人しか動かせない。動かしたい顔を選択し、あらかじめ用意されている複数の動きの「ドライバー」動画から1つを選ぶと、そのドライバーと同じ動きをする。動画は数秒で、いずれも記念撮影の直前のように少し顔を動かし、最
Transformerによる時系列データ予測のご紹介 - Platinum Data Blog by BrainPad
本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 発展を続ける「自然言語処理」技術。その中でも幅広く使用される深層学習モデルTransformerは、自然言語処理以外の音楽生成や物体検出などの領域でも適用できます。本ブログでは、 Transformerを時系列データに適用する方法をご紹介します。 こんにちは、AIソリューションサービス部の井出と申します。 この記事では、特に自然言語処理分野で幅広く使用される深層学習モデルTransformerを時系列データへ適用する方法に関してご紹介します。 以前の記事では、Transformerの構造や特徴などについて、自然言語処理分野の機械翻訳を例としてご紹介しております。はじめに、こちらの記事をご一読していただくことで、より本記事でご紹介する内容に対する理解が深まるかと思います。 Transform
似ているヘアカット写真を見つける画像認識AI 「Yahoo! BEAUTY」の新機能で活用
ヤフーは2月15日、ヘアスタイル検索サービス「Yahoo! BEAUTY」に独自の画像認識AIを使った新機能を導入したと発表した。ユーザーの好みに合うヘアスタイル画像の表示精度がアップしたという。 入力した名称のヘアスタイル画像を表示するもの。従来は画像に付けられたハッシュタグを基準に類似画像を表示する仕組みだった。 新機能ではAIがヘアスタイルの特徴と髪の毛の色を識別し、類似画像を表示する方式に変更。識別方法には画像認識で精度が高い学習手法とされる「Convolutional Neural Network」（CNN）を採用した。 ヤフーによると、学習対象は「ショート」「セミロング」といった髪の長さ、 「マッシュ」「ひし形」などの髪形のシルエット、「ワンカールパーマ」「外ハネ」のような毛先の動き、「クール」「ガーリー」といったヘアスタイルへの印象に至るものまで多岐にわたるという。 類似画像
DEEP LEARNING · Deep Learning
Description This course concerns the latest techniques in deep learning and representation learning, focusing on supervised and unsupervised deep learning, embedding methods, metric learning, convolutional and recurrent nets, with applications to computer vision, natural language understanding, and speech recognition. The prerequisites include: DS-GA 1001 Intro to Data Science or a graduate-level
やってみたら簡単！ディープラーニング・オセロを作って自分を負かすまで強くした話(その2・iOS編) - Qiita
前回の記事「やってみたら簡単！ディープラーニング・オセロを作って自分を負かすまで強くした話(その1)」の続編です。 前回は、ディープラーニング・オセロのモデルを作って推論させるところまでを説明しました。 今回は、今回はこのモデルをiOSで動作させ、ミニマックス法やモンテカルロ木探索に組み込む方法について説明します。 前回、UIの説明をすると書きましたが、UIそのものはもともと参加していたコンテストであるリバーシチャレンジから提供されていたものを利用していたので、説明としては省略します。 前回はPython中心の記事でしたが、今回はSwift + Core ML中心の記事になります。 コードはこちらにあります。 TokyoYoshida/reversi-charenge ミニマックス法とモンテカルロ木探索ではどうだったか？ 結論から言うと、ミニマックス法は強くならず、モンテカルロ木探索は、私
VIBEで、人の動画から3Dモデルを推定する | cedro-blog
1.はじめに 以前から人の動画から3Dモデルを推定する手法はありましたが、複雑な動きの場合は細部でゆがみやズレが生じていました。今回は、この問題点を改善したVIBEという技術をご紹介します。 ＊この論文は、2019.12に提出されました。 2.VIBEとは？ VIBEとは、Video Inference for Body Pose and Shape Estimation の略で、ディープラーニング を使って、人の動画から3Dモデルを推定する技術です。 使用しているモデルは、SMPL (Skinned Multi-Person Linear model)と言う人間の自然なポーズにおける多種多様な体型を正確に表現するためのモデルです。 このモデルは、N＝6890個の頂点を持っており、頂点の重み付き和からP=23個の関節位置を求めることが出来ます。 下記が、VIBEのアーキテクチャーです。入力
メルアイコン変換器を作った話 - Qiita
はじめに 「メルアイコン」と呼ばれる、Melvilleさんの描くアイコンはその独特な作風から大勢から人気を集めています。 上はMelvilleさんのアイコンです。 この方へアイコンの作成を依頼し、それをtwitterアイコンとしている人がとても多いことで知られています。 代表的なメルアイコンの例 （左から順にゆかたゆさん、みなぎさん、しゅんしゅんさんのものです (2020/12/1現在)） 自分もこんな感じのメルアイコンが欲しい！！ということで機械学習でメルアイコン生成器を実装しました！！.......というのが前回の大まかなあらすじです。 今回は別の手法を使って、キャラの画像をメルアイコンに変換するモデルを実装しました。例えばこんな感じで変換できます。 実装したコードはこちら 本記事ではこれに用いた手法を紹介していきます。 GANとは 画像の変換にあたってはUGATITという手法を使って
#この記事は実在しません GPT-2 Text Generation Demo：朝日新聞社メディア研究開発センター 人工知能研究の取り組み
この記事は弊社の機械学習モデル（GPT-2言語モデル）が自動で生成したものをそのまま掲示したフィクションであり、実在の人物・団体・商品等とは何ら関係ありません。 GPT-2言語モデルは、朝日新聞記事で事前訓練した後に、日本語Wikipedia記事を用いてfine-tuningしています。詳細はこちらまで。 この記事はあらかじめ弊社の言語モデルに生成させた結果を蓄積し、スクリプトにより表示したもので、リアルタイムに生成させているものではありません。リロード、もしくはこちらをクリックすると、新しい記事が出てきます。 HOME PRODUCTS ABOUT PUBLICATIONS API利用停止 サイトポリシー プライバシーポリシー CONTACT 当サイトに掲載された内容は、日本の著作権法並びに国際条約により保護されています。掲載記事・写真・データ等の無断転載を禁じます。 Copyright
マイコンで深層学習も、エッジコンピューティングの未来
機械学習（ML）、さらには深層学習（DL）は、ほんの数年前までハイエンドのハードウェアでしか実行できず、エッジでのトレーニングや推論はゲートウェイ、エッジサーバ、またはデータセンターで実行されると考えられていた。当時、クラウドとエッジの間で計算リソースを分配するという動きが初期段階にあったため、このような考え方は正しいとされていた。しかし、産学の集中的な研究開発によって、このシナリオは劇的に変化した。 いまやMLを実行するのに優れたTOPS性能を実現可能なプロセッサは必要ない。最新のマイコンの中にはMLアクセラレーターを組み込んだものもあり、エッジデバイスでMLを実行できるケースが増えている。 これらのデバイスは、単にMLを実行するのではなく、低コストと低消費電力を実現し、どうしても必要な場合にのみクラウドに接続することが可能だ。つまり、MLアクセラレーター搭載のマイコンは、次のステップと
新たな活性化関数「FReLU」誕生&解説！ - Qiita
オミータです。ツイッターで人工知能のことや他媒体で書いている記事など を紹介していますので、人工知能のことをもっと知りたい方などは気軽に@omiita_atiimoをフォローしてください！ 他にも次のような記事を書いていますので興味があればぜひ！ 【2020決定版】スーパーわかりやすい最適化アルゴリズム -損失関数からAdamとニュートン法- 画像認識の定番データセットImageNetはもう終わりか パラメータ数を激減させる新しい畳み込み「MixConv」解説！ 自然言語処理の王様「BERT」の論文を徹底解説 【基本編】画像認識に使用されるData Augmentationを一挙にまとめてみた！ 画像認識に特化させた新たな活性化関数FReLU解説&実装！ 今やあらゆる分野で驚くべき結果を残し続けているニューラルネットワークですが、そのニューラルネットに無くてはならないものこそが活性化関数で
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
猫でもわかるTabNet
GitHub - dvgodoy/dl-visuals: Over 200 figures and diagrams of the most popular deep learning architectures and layers FREE TO USE in your blog posts, slides, presentations, or papers.
GitHub - lucidrains/deep-daze: Simple command line tool for text to image generation using OpenAI's CLIP and Siren (Implicit neural representation network). Technique was originally created by https://twitter.com/advadnoun
深層学習 DS-GA 1008 · 2020年度春学期 · ニューヨーク大学データ・サイエンス・センター