タグ

ブックマーク / olanleed.hatenablog.com (4)

  • トップダウン型の自動微分を実装する - もちもちしている

    はじめに だいぶ前に書いていたコードですが、C++でTD型の自動微分を実装したので公開します。 自動微分については以下の記事を参考にさせていただきました。 kivantium.hateblo.jp C++のコード C++書いたコードは以下の通り。 自分が書いたコードはC++14に対応していましたが、話題のChatGPTを用いて、C++17に対応するようにリファクタリングしてもらいました。 Variable::backward でグラフを幅優先探索で辿ってる以外はクラスの定義や演算子オーバーロードを行っているだけなので、スッと読めると思います。 #include <iostream> #include <deque> #include <unordered_set> #include <vector> #include <memory> #include <tuple> #include <

    トップダウン型の自動微分を実装する - もちもちしている
    xiangze
    xiangze 2023/06/29
  • ニューラルネットの調和解析 - もちもちしている

    はじめに この記事はDeep Learning Advent Calendar 2016 3日目の記事です. とうとうAdventCalendar以外でブログを更新しなくなってしまいましたが,元気よく書いていきたいと思います. 今回はニューラルネットのブラックボックス性とその解析をしている論文の紹介です.Deep Learning Advent Calendarをやるぞ!と言っておきながら,この記事で取り上げるのは浅いニューラルネットです. ニューラルネットのブラックボックス性とその議論 ニューラルネットは自然言語処理や音声認識ゲームAIなどの様々なタスクに応用されるようになり,いずれも大きな成果を挙げていることに間違いはありません. しかしその一方で,ニューラルネットは中間層を挟むため,学習で得られる内部状態は不明瞭となります.このことから,結果の考察がしにくいという理由で忌避されるこ

  • Deep Learningのハイパパラメータの調整 - もちもちしている

    この記事はDeep Learning Advent Calendar 2015 23日目の記事です. はじめに コンピュータセキュリティシンポジウム2015 キャンドルスターセッションで(急遽)発表したものをまとめたものです. また,私の体力が底を尽きてるので,後日に大幅な加筆・修正します. Deep Learning Advent Calendar 21日目の記事はすいません,しばらくお待ちください... Deep Leaningの光と闇 Deep Learningが様々なタスクにおいて大きな成果を上げています.また,各種フレームワークの登場によって,Deep Learningの導入や実践する敷居が大幅に下がりました.このことから,Deep Learningを活用していこうと考えてる,あるいはすでに活用している企業や研究者が増えてきています. Deep Learningによって従来の手法

    Deep Learningのハイパパラメータの調整 - もちもちしている
  • Chainerを用いたマルウェア検出への取り組みについて - Longbow

    2015 - 12 - 13 Chainerを用いたマルウェア検出への取り組みについて この記事は Chainer Advent Calendar 2015 13日目 の記事です. はじめに Chainerで実装を進めているのですが,今回は構想的な話をします.ご容赦下さい. 私は 修士論文 でEディスカバリ *1 を対象に 自然言語処理 と 機械学習 を用いて研究を進めていますが,それとは別に,Deep Learningで マルウェア 検出に取り組んでいます.当は研究室配属された時に,これで論文書きたいと思っていましたが,色々大変であることが発覚したので,個人的に細々とやっている感じです.卒業までになんとか実現しようと奮闘しております. マルウェア を 機械学習 させるための戦略 マルウェア にも様々な種類がありますが,PEフォーマット *2 の マルウェア を対象にしております. マル

    Chainerを用いたマルウェア検出への取り組みについて - Longbow
    xiangze
    xiangze 2015/12/13
  • 1