Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 書いてあること 1.ニューラルネットワークって？ 2.ユニット？重み？バイアス？ 3.活性化関数 4.NNの全体像 5.まとめ ニューラルネットワークの全体像をふわっと理解することを目標にしています。数式とかは使ってないので数学アレルギーの人も是非見てください。 1.ニューラルネットワークって？ ニューラルネットワークとは下のようなやつのことです。英語で書くとNeuralNetworkなので、よくNNって略します。なので今回はNNで説明していこうと思います 丸いのを「ユニット」といい、ユニット同士を結んでる線を「シナプス」と呼びます。シ

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 本記事では、教師なし学習と脳科学、そして教師なし学習でMNISTで高性能を出すIICの実装を解説します。 本記事で着目する論文は、 Invariant Information Clustering for Unsupervised Image Classification and Segmentation です。 この論文では相互情報量と呼ばれる指標を活用し、教師なし学習のクラスタリングで手書き数字画像を分類します。 IIC（Invariant Information Clustering）と呼ばれます。 本記事では、脳科学と教師なし学

はじめに 自然言語処理タスクでBERTをfinetuningして使うことが当たり前になってきました。Kaggleなどのコンペや精度要件がきつい案件を行う場合に少しでも精度を向上させたいというシーンが増えてくると考えられます。そこで、精度向上手法をまとめます。タスクとしては分類タスクを想定しています。 文字数調整 学習済みのBERTに入力可能な単語数は最大512個です。そのため、512単語以上のテキストを使用する場合は特別な工夫が必要となります。ここの処理方法の変更が精度向上に寄与することが多いので要チェックです。 例として次のテキストから6単語取得することを考えます（句点も1単語とします） 吾輩 / は / 猫 / で / ある / 。 / 名前 / は / まだ / ない / 。 1. Head-Tail 吾輩 / は / 猫 / で / ある / 。 / 名前 / は / まだ / な

2014年6月に開催されたSSII2014（http://www.ssii.jp/）のチュートリアル講演用資料です． 使用したコード等はこちら． https://github.com/norishigefukushima/SSII2014 アブストラクト 「CPUのクロック数が年月とともに増加する時代は終わり、プログラムの高速化をCPUの性能向上に任せることのできるフリーランチの時代は終わりを迎えています。しかしムーアの法則はいまだに続いており、CPUはマルチコア化、SIMD化という形で高性能化が続いています。本チュートリアルでは、計算コストの高い画像処理を高速化するために、CPUの能力をあますことなく引き出す、マルチコアプログラミング、SIMDプログラミングを解説します。」

NVIDIAは、同社の創業者兼CEO ジェンスンフアン氏の「GTC2020 基調講演」(オンライン配信)をYouTubeで配信した。それと時を同じくして、低価格で高性能なAIコンピュータボード「Jetson Xavier NX」開発キットがいよいよ5月15日より、日本国内で発売になることが明らかになった。

オフラインでも使える人工知能 花判定アプリ。 使い方は簡単！名前を知りたい花に、スマートフォンをかざすだけ。 人工知能が花の種類を判定し、名前を教えてくれます。 現在、判定できる花の種類は770種類。 判定結果は、写真に撮ってスマートフォンに保存することも、SNSにシェアすることもできます。 こんな方におすすめ ・庭先に咲いた花の名前が知りたい ・公園や散歩道に咲いている花の名前が知りたい ・花の写真を撮って、名前と一緒に保存したい ・花の写真に名前を添えて、友達にシェアしたい もっと早く知りたかった… 春なんてお花いっぱい咲いてるよー 今年は特に散歩に行く機会・お花を見る機会も多かったし。 『このお花可愛いな～うちでも植えたいな～何ていうお花だろ？？』 って思うお花も多かったんですよね。 とはいえ、勝手に人の庭の写真を撮る事は出来ないけど(^^;) そして、娘小2。 「お花屋さんになりた

AI（人工知能）によって作成されたAC/DCソング「Great Balls」が話題に。 米アーティストのFunk Turkeyはウェブサービス「lyrics.rip」を使ってAC/DC風の歌詞を作成し、それをもとにAC/DC風の楽曲を書き、ブライアン・ジョンソンのスタイルで歌い上げています。 ウェブサービス「lyrics.rip」は、多くの歌詞を集積している世界有数の歌詞サイトGeniusの歌詞データベースを使って特定のアーティストの多くの歌詞を学習したAIが、予測アルゴリズムを用いてそのアーティストの新しい歌詞を作成するというウェブサービス。アーティスト名を入力するだけで、AIがそのアーティストの新しい曲を作成してくれます。 Funk Turkeyは、AIによって作成されたニッケルバック・ソングも公開しています ■「AI/DC: I made a bot write an AC/DC s

概要 さて、最近話題の機械学習ですが（多分）、画像認識や自然言語処理等、まだまだできることに限りがあるように思われます。すごい人、がんばれ！ 背景としまして、（長いので読まなくていいです）元々はFPGAにPcamを刺して画像収集をして手動でラベル付けを済ませて学習させたのですが、その学習済みモデルはなんと学習で使われた角度における白線の角度ではうまくいった（あくまで正答率での話）のですが、高速で推論させるためにラスベリーパイにエッジTPUを刺して、ラズパイをホストにして計算させるためにラズパイにWebカメラをさして演算させようと思ったところ、カメラの位置や角度が大きく変わってしまったためか、学習モデルが全く役に立ちませんでした。なので再度データセットを集めて学習させたいのですが、再び手動でラベル付けをするのは面倒です。なので自動でラベル付けをしてくれるスクリプトを生成しましょう！ というこ

はじめに 自然言語処理の世界で様々なブレークスルーを起こしている**「BERT」**をpytorchで利用する方法を紹介します 特に実務上で利用するイメージの沸きやすい、手元のラベル付きデータでファインチューニングをして、分類問題を解くタスクを行ってみたいと思います 読み込むデータをpandasで少し整形してあげれば他データでも応用することはできるはずなので、是非、お手元の様々なデータで試して頂ければと考えています 環境 Google Colaboratory（GPU環境） Google Colaboratoryの環境設定方法は様々な紹介記事があるので、それらをご参照ください 利用データ ライブドアニュースコーパス 「ITLife Hack（IT関連記事）」と「Sports Watch（スポーツ関連記事）」の記事を利用 それぞれの記事内容（テキスト）から、どちらのメディアの記事なのかを推定

Limited space! Get on waitlist to be the first to know when tickets go live!

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

Multi-Step learning で参照する action の間違い 以前の記事のMulti-Step learningですが、action の参照を $t_n$ で参照していましたが間違いですね… 前の状態の action を参照するので $t_{n-multisteps}$ が正解でした。 重要度サンプリングの間違い 以前の記事は以下です。 重要度サンプリング(IS: Importance Sampling) 重要度サンプリングを簡単に言うと、Priority Experience Reply(優先順位付き経験再生)により経験を取り出す際に優先度がつきました。 すると取得する経験の回数に偏りが生じます。 そうするとその偏りで学習に bias がかかってしまうのでこれを修正するのが重要度サンプリングになります。 具体的には、高い確率で選ばれる経験はQ値の更新への反映率を低くし、低い

Bumble founder and executive chair Whitney Wolfe Herd raised eyebrows this week with her comments about how AI might change the dating experience. During an onstage interview, Bloomberg’s Emily Chang…

ソニー、イメージセンサーとAIを合体させてしまう2020.05.18 10:0022,238 かみやまたくみ デジカメに下りてきてもいいんじゃって気が。 ソニーが世界初のAI処理機能を搭載したイメージセンサー｢インテリジェントビジョンセンサー｣を商品化したと発表しました。動画では｢もはや目の前の光を捉えるだけのセンサーではありません。目の前の光から必要な意味、情報を捉えるセンサーなのです｣とか言ってますね（かっこいい言い回し！）。小売業や産業機器業界向けのセンサーではあるのですが、技術的におもしろいなーと思ったので紹介してみます。 画素チップの下にロジックチップがある積層構造有効画素数は約1230万、センサーサイズは1/2.3インチ。価格はベアチップ版が1万円、パッケージ版が2万円（ともに税抜）Image: Sonyインテリジェントビジョンセンサーは画素チップとロジックチップの二層構造にな

製造現場で活躍広がる「画像×AI」、どういう場で生きるのか：スマートファクトリー（1/2 ページ） グルーヴノーツは、「製造×画像AI」をテーマに2020年4月14日、オンラインセミナーを開催。グルーヴノーツ アカウントエグゼクティブ 岩野敦氏が製造業向けのインフラ設備・機械の保全・安全管理業務における画像AIの活用事例などを紹介した。 グルーヴノーツは、「製造×画像AI」をテーマに2020年4月14日、オンラインセミナーを開催。グルーヴノーツ アカウントエグゼクティブ 岩野敦氏が製造業向けのインフラ設備・機械の保全・安全管理業務における画像AI（人工知能）の活用事例などを紹介した。 AIと量子コンピューティング技術を活用した「マゼランブロックス」 グルーヴノーツは福岡市に本社を置くソフトウェア会社で、社員数は約50人。AIや量子コンピュータを利用した組み合わせ最適化ソリューションなどを提

AIデータセンターの性能が20倍に、NVIDIAがAmpere世代のGPU「A100」を発表：GTC 2020 基調講演（1/3 ページ） NVIDIA CEOのジェンスン・フアン氏は、YouTubeでオンデマンド配信した「GTC 2020」の基調講演において、新たなアーキテクチャ「Ampere」を採用したGPU「NVIDIA A100」を発表した。 NVIDIAは2020年5月14日、同社のYouTubeチャンネルで、ユーザーイベント「GTC（GPU Technology Conference） 2020」の基調講演をオンデマンド配信した。GTC 2020は同年3月22～26日に米国サンノゼで開催予定だったが、新型コロナウイルス感染症（COVID-19）の感染拡大のため、リアルイベントに替えて完全オンラインのイベント「GTC Digital」を実施している。GTCの基調講演と言えば、同社

3つの要点 ✔️ 画像分類タスクに必要不可欠なData Augmentationの体系をまとめた ✔️ 基本的なData Augmentationについて手法と利点/欠点をまとめた ✔️ 基本的なDAは実装が簡単な上に絶大な効果を発揮する A survey on Image Data Augmentation for Deep Learning written by Connor Shorten, Taghi M. Khoshgoftaar (Submitted on  06 July 2019) Comments: Published by Journal of Big Data Subjects: Computer Vision and Pattern Recognition (cs.CV); Machine Learning (cs.LG); Image and Video Proc

Instagramの元エンジニアリングディレクターが開発した「ThisWordDoesNotExist.com」（サイト名は「この単語は存在しない」の意味）は、人工知能（AI）によって創作された英単語を、妙に説得力のある辞書形式の定義とともに表示するサイトだ。 このサイトのおかげで、筆者の語彙は格段に広がった。例をいくつか挙げてみよう。「heapslepper」は、「何かから飛び出す、鉄やガラス、または似たような素材の小さな破片」のことだ。「triuplex」は「黒くて長い毛の、爪先が2つに割れた四肢動物に似た登山犬」で、これは筆者が昨夜見た悪夢に出てきた。「bobweiser」は「何かの品質をチェックするのが仕事の人」で、求職者にとっては幸いなことに、Bobという名前である必要はない。こうした語義の後には必ず2つ目の説明として、「存在しない単語であり、機械学習のアルゴリズムによって考案、

システムの構成を社内で共有したり外部に説明したりする際に、システム構成図を作成した経験のあるエンジニアは多いはず。ダイアグラム作成ソフト「Diagrams」を使うと、AnsibleやSubiquityといった「Infrastructure as Code(IaC)」に関連するサービスのように、プログラミング言語のPythonでコードを書くことで、クラウドやオンプレミスの構成図を描くことができます。 Diagrams · Diagram as Code https://diagrams.mingrammer.com/ まずはDiagramsの動作に必要なパッケージをインストールします。今回Diagramsのインストールに利用するのはUbuntu 18.04です。 sudo apt install -y python3 python3-pip graphviz 続いてDiagramsをインスト

強化学習では何をしていくかというと、 「将来の価値を最大化するような行動を学習」 していきます。 強化学習のモデル 強化学習の基本的な仕組みは次のようになっています。 以下の$t$は任意のステップを示します エージェント（意思決定者）: 意思決定と学習を行う主体 環境: エージェントが相互作用を行う対象 状態: 環境がエージェントの行動を反映した上で、エージェントに与える状況, $s_t$ 行動: $a_t$ 報酬: $r_t$ 方策: $π_t(s, a)$:確率分布で表される行動戦略。任意の状態において、ある行動をとる確率を示す まず環境からある「状態」$s_t$が与えられ → 「エージェント」が「方策」 $\pi_t(s,a)$ に従い「行動」$a_t$を選択し → 次のステップに「環境」から「報酬」$r_{t+1}$と「状態」$s_{t+1}$をフィードバックとしてもらう という流

こんにちは。たかぱい（@takapy0210）です。 本日は自然言語の可視化を手軽にできるようにしたパッケージnlplotをPyPIに公開したので、これのご紹介です。 nlplotとは？ nlplotで何ができるか 使い方 使用データ 事前準備 ストップワードの計算 N-gram bar chart N-gram tree Map Histogram of the word count wordcloud co-occurrence networks sunburst chart まとめ nlplotとは？ 自然言語の基本的な可視化を手軽にできるようにしたパッケージです。 現在は日本語と英語で動作確認済みです。 基本的な描画はplotlyを用いているため、notebook上からインタラクティブにグラフを操作することができます。 github.com （スター★お待ちしております🙇‍♂️）

はじめに 先月、YOLOv4が公開されました。位置づけとしては、物体認識のポピュラーなモデルの1つであるYOLO系統の最新版となります。結果がすごいのはぱっと見分かりましたし、内容も既存の手法をサーベイ・実験頑張って、精度上げていったんだなあくらいのさら読みはしていましたが、もう少しちゃんと読んでおこうと思い、読んでみたので紹介します。 私自身は物体認識の研究者というわけではないですが、なんだかんだ物体認識周りの記事をいくつか書いているので興味のある方は以下もご参照下さい。 note.com note.com [DL輪読会]Objects as Points from Deep Learning JP www.slideshare.net さて、このYOLOv4ですが、元々のYOLOの作者であるJoseph Redmon氏は著者ではありません。Jeseph Redmon氏は研究の軍事利用や