タグ

ブックマーク / monoist.itmedia.co.jp (4)

  • ディープラーニングの学習データ量を削減、「敵対的特徴」の活用で

    NECは2019年8月19日、ディープラーニングの学習に必要なデータ量を削減する新たな技術を開発したと発表した。同技術は画像や音声などデータ形式によらず適応でき、学習データセットの拡張を専門家による調整なしに実現するとしている。 製品の外観検査など、製造業においてもディープラーニング活用が進む。ディープラーニングの推論精度は学習用データセットの質と規模に依存するが、高品位なデータセットの用意は手間やコスト面で高いハードルが存在する。外観検査の例においても不良品の画像データを多数そろえる必要があるが、そもそも発生頻度の低い不良でデータ収集が困難な場合が多い。この問題を解決するため、他領域で学習したニューラルネットワークを転用する「転移学習」や、元の学習データを人為的に加工し学習用データセットへ加える「データ拡張」などの手法に注目が集まっている。 一方で、データ拡張は専門家による調整を必要とす

    ディープラーニングの学習データ量を削減、「敵対的特徴」の活用で
  • 機械学習で入ってはいけないデータが混入する「リーケージ」とその対策

    機械学習で入ってはいけないデータが混入する「リーケージ」とその対策:もう失敗しない!製造業向け機械学習Tips(1)(1/2 ページ) 製造業が機械学習で間違いやすいポイントと、その回避の仕方、データ解釈の方法のコツなどについて、広く知見を共有することを目指す連載。第1回では「リーケージ」について取り上げる。 ⇒連載「もう失敗しない!製造業向け機械学習Tips」バックナンバー 筆者はデータサイエンティストとして、機械学習自動化プラットフォーム「DataRobot」の導入サポートをさまざまな製造業のクライアントに提供してきました。連載では、その経験に基づいてお話させていただきます。 機械学習が使われる製造業特有の分野は、物性予測、工程管理、予防保全、故障予測、要因分析など多岐にわたります。しかし筆者は、それらの多くで同様のミスが繰り返されていることに気が付きました。これらの間違うポイント

    機械学習で入ってはいけないデータが混入する「リーケージ」とその対策
  • 深層学習AIをエッジで動かす、東芝と理研がスパース化現象でパラメータ8割削減 - MONOist(モノイスト)

    (左)手書き数字画像10クラスの「MNIST」という画像データセットにおいて、4層の全結合ネットワークを用いた実験の結果。コンパクト化なしのネットワークから認識精度0.02%の低下で、パラメータ数を83.7%削減可能であることを確認した。(右)一般物体認識のベンチマークとしてよく使われている「CIFAR-10」という画像データセットにおいて、16層の畳み込みニューラルネットワークを用いた実験の結果。認識精度の低下が約1%以内の範囲では、正則化強度を変更することでネットワークのパラメータ数を30~70%程度削減でき、DNNのサイズを柔軟に変更できることを確認した(クリックで拡大) 出典:東芝 スパース化現象が起こる学習条件は3つある。1つ目は、DNNの表現力を高めるために一般的に導入される非線形関数ReLU(Rectified linear unit)を活性化関数として用いる場合だ。2つ目は

    深層学習AIをエッジで動かす、東芝と理研がスパース化現象でパラメータ8割削減 - MONOist(モノイスト)
    p_tan
    p_tan 2018/12/19
    L1じゃなくてL2正則化でもスパースになるってところが新しい発見なのかな?
  • グーグルがエッジデバイスにもAIチップを展開、推論実行に特化した「Edge TPU」

    グーグルがエッジデバイスにもAIチップを展開、推論実行に特化した「Edge TPU」:人工知能ニュース(1/2 ページ) グーグルGoogle)は、米国サンフランシスコで開催したGoogle Cloudのユーザーイベント「Google Cloud Next 2018」の発表内容について説明。同イベントの発表で製造業が最も注目したのは、エッジデバイス上で機械学習モデルの推論実行を効率良く行うためのASICチップ「Edge TPU」の提供だろう。 グーグルGoogle)は2018年8月3日、東京都内でメディアセミナーを開き、米国サンフランシスコで同年7月24~26日に開催したGoogle Cloudのユーザーイベント「Google Cloud Next 2018」の発表内容について説明した。 2万3000人以上が参加し、500以上の講演やトレーニングが行われたGoogle Cloud Ne

    グーグルがエッジデバイスにもAIチップを展開、推論実行に特化した「Edge TPU」
  • 1