この「最適化超入門」は、『最適化したい!』と思った時に、最初に参考になりそうなものをつらつらと語りました。
初めまして。普段は産婦人科医をしつつAIの医学応用に関する研究をしています。 Qiitaは見る専でしたが、以下のバズっている記事を拝見した時、生理学の神経構造の話をふと思い出したのでメモ代わりに記載しようと思います。 読みにくい部分があれば申し訳ありません。 とくに@pocokhc(ちぃがぅ)さんの記事のコード詳細と実験内容を見ていた時、実際の神経系の構造とあまりに似ていたことにびっくりしました。 まず、興奮性ニューロンと抑制性ニューロンの2種類から構成されるED法の構成ですが、これは実際の神経系でも同様の構造になっています。実際の神経はシナプスのつながりをニューロンと言います。信号を伝える側の興奮性シナプスに電気が走ると、電位依存性のカルシウムチャネルが開き、Caが放出されます。このCaの影響でシナプスの末端にある小さな袋から神経伝達物質(中枢神経系では主にグルタミン酸)が放出されます。
OpenAIが発表した言語モデルGPT-3はパフォーマンスの高さから各方面で注目されており、ついにはMicrosoftが学習済みモデルの利用を独占化しました。 私個人の所感としてこれまで学習済みモデルは無料公開するという流れを無視し、(アーキテクチャではなく)学習済みモデルが商品化するのはAIビジネスの一つの転換期と感じています。 深層学習による自然言語処理分野で巨大化していくモデルを十分に学習させるためにはWebデータの活用が大きな役割を果たしています。一方、その量に関する話題はあるものの、利用にあたっての細かな前処理に関する議論はあまりなされていない印象です。 そこで本記事は学習データの構築にフォーカスします。 GPT-3の論文でも言及されている通り、学習データはGoogle Researchが発表したT5のデータを踏襲したと書かれていますので、まずはT5のデータから見て行きましょう。
週にだいたい15件(1日3件ほど)のAI(ここではdeep learningや機械学習を指します)導入に関するご相談をいただきます。それを3年間やっているので、相当数1,000社くらいはお話したかと思います。(こういうとなんか胡散臭いですね笑) その中で「これは実運用までは遠いだろうな」と思う瞬間がいくつかあるので、それを抽象化してまとめてみました。 ※追記: 抽象化したものを記載しております。特定の企業や個人のAI導入に対するアティチュードを非難/否定するのものではないことをご理解くださいませ。 以前、会社のBlogで下記のような記事を書きました。 その中で上記のようなものを紹介しました。これの概要はブログを読んでいただけると幸いです。 今回は「5つのD」に沿いながら「こんな言葉がmtgで出ていちゃまずい」「こんな考え方では導入が進まないのではないか」と思ったことを記載していきたいと思い
去年の9月頃、Unityで機械学習を行う ML-Agent(ver 0.01)が公開されました。 このライブラリを使用すると、Unity上で作成したゲームで機械学習によるAIを実行したり出来そうです。 最近このML-Agentを使用して色々と試していたのですが、ある程度形になったので色々とこちらの記事にメモを残します。 目次 機械学習? 強化学習? 報酬は"結果"ではなく"連続した動作"に与えられる Unityと強化学習 独自のプロジェクトを作ってみる シーンのセットアップ アクションの設定 Stateの設定 Reward(報酬)の設定 終了とリスタート 学習 その他 関連 機械学習? 機械学習は最近騒がれている技術の一つで、AIの一種です。 その特徴は、「明示的にプログラムされる事なく、経験から学習する」という点にあります。この学習のプロセスは、提供されたデータに基づいてパターンを抽出、
私が2012年にニューラルネットの逆襲(当時のコメント)というのをブログに書いてからちょうど5年が経ちました。当時はまだDeep Learningという言葉が広まっておらず、AIという言葉を使うのが憚られるような時代でした。私達が、Preferred Networks(PFN)を立ち上げIoT、AIにフォーカスするのはそれから1年半後のことです。 この5年を振り返る良いタイミングだと思うので考えてみたいと思います。 1. Deep Learning Tsunami 多くの分野がこの5年間でDeep Learningの大きな影響を受け、分野特化の手法がDeep Learningベースの手法に置き換わることになりました。NLP(自然言語処理)の重鎮であるChris Manning教授もNLPで起きた現象を「Deep Learning Tsunami」[link] とよびその衝撃の大きさを表して
例えば、今時の海外のゲームではAIがゲームバランスを調整していると聞く。 自動的なゲームバランスの調整にAI的なロジックが使われていて、ゲームとしての適切なグルーブ感を自動調整しながら、ユーザーの楽しさを継続させるという部分らしい。 文章に書くと昔からアルゴリズムで行われているこのようにも思えるが、きっと、もっと高度なことが行われていると、一旦仮定する。 いずれにせよ一番重要なのが「ゲームとして楽しいバランス」。これを決めるのは、ゲームクリエイターの味付けでありセンスであるというところ。 昔、天才ゲームクリエイターと呼ばれる人と一緒に仕事をしていたので聞かされた話があって、それは現在の業界的に正しいのかはわからないが、ゲームが完成する直前になってからがゲームクリエイターとしての勝負だということ。 決して単純なロジックやフローチャートでは語りきれない「天才だけがもっているセンス」をどうにかパ
ディープラーニング実践入門 ~ Kerasライブラリで画像認識をはじめよう! ディープラーニング(深層学習)に興味あるけど「なかなか時間がなくて」という方のために、コードを動かしながら、さくっと試して感触をつかんでもらえるように、解説します。 はじめまして。宮本優一と申します。 最近なにかと話題の多いディープラーニング(深層学習、deep learning)。エンジニアHubの読者の方でも、興味ある人は多いのではないでしょうか。 しかし、ディープラーニングについて周りのエンジニアに聞いてみると、 「なんか難しそう」 「なかなか時間がなくて、どこから始めれば良いかも分からない」 「一回試してみたんだけど、初心者向けチュートリアル(MNISTなど)を動かして挫折しちゃったんだよね」 という声が聞こえてきます。 そこで! この記事では、そうした方を対象に、ディープラーニングをさくっと試して感触を
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く