はじめに 書籍『Pythonでスラスラわかる ベイズ推論「超」入門』著者です。 読者からいただいた質問のうち、実装コード付きで示した方がいいものがあったので、この場で解説をしたいと思います。 なお、当記事は、書籍で説明している概念については、すべてわかっている前提で記載しています。わからない部分はすべて書籍内に説明がありますので、関心を持たれた読者は是非、本編の書籍もお買い求めいただけるとありがたいです。 書籍サポートサイトのリンクは下記になります。 https://bit.ly/3uV4i3R いただいた質問と直接の回答 いただいた質問は、5.4節　潜在変数モデルの実習コードに対するものです。 以下のコードはサポートサイト上にもアップしておきました。 https://bit.ly/3vjwY6M 潜在変数モデルでは、特別な工夫をしないと「ラベルスイッチ」と呼ばれる事象が発生します。 その

上で引用した「儲かるAI」に関しては、単純平均とほぼ同じような結果になっていますが、件数が少ない書籍に関してはhdi_3%からhdi_97%の幅(統計学の「信頼区間」とほぼ同じ概念と考えてください)が非常に広くなっていることがわかります。 「不確実性」が具体的な数値の形で示されているのです。 では、どうするとこの結果が得られるのか。 考え方の概要を簡潔に説明すると以下のようになります。 スコア別のレビュー件数(ベイズ推論の用語で「観測値」)の背後に確率モデルが存在することを仮定 確率モデルと観測値から事後分布を導出 事後分布に基づいて「レビューの平均スコア」も確率変数として算出する 得られた「確率変数としてのレビュー平均スコア」を統計的に分析する この形で分析をすることにより最尤推定より現実に即した判断が可能 始めてこの話を聞く人は、何をいっているのか、まったくわからないと思います。しかし

はじめに 「Pythonで儲かるAIをつくる」などの著者の赤石です。 私の本は基本的にPythonの実習コード付きです。実習コードの前提環境をどうするかが、常に大きな問題なのですが、最近の本ではすっかりGoogle Colabに頼っています。 Google Colabは、gmailのアカウントさえ持っていれば、セットアップ作業ゼロで、即Jupter + Pythonの環境が使える点が圧倒的に便利だからです。 一方で、要注意点もあります。Google Colabは各種ライブラリの最新バージョンを常に反映しています。それはそれでありがたいことなのですが、出版時とライブラリのバージョンが変わると、サンプルプログラムの挙動が変わることがあるのです。 このような事象が見つかった場合は、読者のためにできる限りサンプルコードに修正を加えて本と同じ動きを保つようにしています。 しかし、「Pythonで儲か

はじめに 「XX分でできるBERT」シリーズ第二弾です。 (第一弾の記事はこちら　→　60分でできるBERT(英語テキストの感情分析)) 今回は、事前学習モデルを使って、そのまま予測するので、学習が不要、よって、本当に10分かからずにBERTの予測モデルを動かすことができます。 Question-Answering予測とは BERTが活用できるテキスト分析のパターンの一つです。入力として「ヒントとなる一連のテキスト」と「そのテキストを前提とした質問」の対になる文をモデルに入力します。すると、モデルはヒントとなるテキストの特定の範囲を FromとToのインデックスで示します。 この範囲の文章が、質問への回答となっている仕掛けです。 BERTでは、このような振る舞いをする事前学習済みモデルがすでにできあがっていて、モデルをロードするだけで、学習なしに予測ができるというのです。本当なのか、早速試

はじめに 「現場で使える! Python自然言語処理入門」と「最短コースでわかる PyTorch &深層学習プログラミング」の著者です。 「現場で使える! Python自然言語処理入門」では、本の一番最後にBERTの簡単な解説をしています。ただ、この執筆したときには、BERTは本当にまだできたてで、ライブラリなどもほとんどなかったため、残念ながら実習を入れることができませんでした。 このあたりの最新状況を調べ直したところ、今ではいろいろとライブラリができあがっていることがわかりました。自分の備忘録を兼ねて、最新状況を反映した実習プログラムを作ってみたので、その結果を連携します。 本当はWord2Vecのサンプル※のように「15分でできる」としたかったのですが、バリバリのディープラーニングのプログラムで全然無理そうだったのであきらめて「60分でできる」にしました。 ※「15分でできる日本語W

はじめに 書籍「Pythonで儲かるAIをつくる」の著者です。 関連リンク: Amazon サポートサイト 書籍の4.3節では、2値分類問題を対象に、決定木、サポートベクターマシン、ランダムフォレストなど機械学習の典型的なアルゴリズムをいくつか紹介しています。ここで各アルゴリズムの特徴を説明する手段との一つして、決定境界表示を用いています。 決定境界表示に関しては、現時点で（おそらく？）正式のライブラリがないため、簡易的に表示ができる関数を事前に定義し、書籍の中では、その関数を参照する形にしています。つまり、表示方法そのものに関する解説は一切ありません。この書籍は入門者向けなので、読者はこの実装ロジックを理解する必要はないという判断のもと、こういう方法を取りました。 一方で著者が非常によく聞かれるのが、この関数の中でどうやって決定境界を表示しているかという点です。当記事は、もともとはそのよ

はじめに 「Pythonで儲かるAIをつくる」の著者です。 Amazonリンク 書籍サポートサイトリンク 何を隠そう、私は昔からプログラミングおたく※なもので、書籍のサンプルコードには相当こだわりがあるのですが、「Pythonで儲かるAIをつくる」では、何カ所か悔いの残る実装がありました。 出版社の担当者とも相談し、ちゃんと動いているのだから正誤訂正ではないだろうといわれ、確かにその通りなので、こういう形で後悔を公開するに至った次第です。 ※　コーディング経験のあるプログラム言語は以下のような感じ。他にも多分いくつかあると思います。 BASIC, Assembler(86系),FORTRAN, LISP, Prolog, C(C++は本当にかすかに), Assembler(HOST), APL, APL2, COBOL, REXX, Pascal(Delphi), VB, Java, Pe

はじめに 最近ずっと悩んでいたのが、PyTorchで乱数の種を固定したつもりでも、結果が一定しない問題。環境はGoogle ColabのGPUです。 (2021-04-10) 対策もわかったので修正 (2021-07-06) 従来の方式でGoogle Colabでエラーになったので対策を追記 (2021-08-01) pytorchのバージョンアップに伴い、関数が変わったのでコード修正 どのような問題か 次のようなコードで定義したCNNモデルです。 CIFAR-10学習用に作ったモデルです。 class CNN_v2(nn.Module): def __init__(self, num_classes): super().__init__() self.conv1 = nn.Conv2d(3, 32, 3, padding=(1,1), padding_mode='replicate')

はじめに 「Watson Studioでどんなことができるの」という質問を最近よく受けるので、その説明のため、紹介記事を新たに起こすことにしました。 元記事は、「無料でなんでも試せる! Watson Studioセットアップガイド」です。IBM Cloudの無料アカウントである「ライトアカウント」は無期限で利用可能です。当記事を読んで実際に試してみたくなった場合は、是非こちらのリンクを参考にアカウント登録をしてみてください。 また、当記事で紹介する「Watson Studio」でできることは、ほとんどすべてそのままIBMのOpenShift上で動く製品Cloud Platform for Data (CP4D)でできることと同等です(厳密にいうとデータカタログ系の機能はCP4Dの方が多い。また各構成要素のバージョンの違いでできるできないが微妙に異なる場合もあります)。こちらの製品に関心ある

はじめに AutoAIは、IBM CloudのAI開発環境であるWatson Studio上の1機能です。 その特徴は、従来経験豊富なデータサイエンティストしかできなかった様々なチューニング作業を自動的に行い、高精度の機機械学習モデル構築を行える点にあります。 お試しで使うレベルであれば、無料で利用可能なライトプランのインスタンスのみの組み合わせで可能で、実質無料で試してみることができます。 当記事は、この機能を使ってみたい方が、事前準備として必要なセットアップの手順をまとめたものです。 [更新履歴] 2022-01-16 ライトアカウントがなくなった点を反映 2020-04-25 メインの登録手順を別文書のリンクにしました(保守性向上のため)。 セットアップ手順 具体的なセットアップ手順は、下記リンク先を参照して下さい。 無料でなんでも試せる! Watson Studioセットアップガイ

はじめに Watsonで数独を解く! Decision Optimizerを使ってみたに引き続きDecision Optimizerシリーズ第二段です。 今回はあまりにも有名な問題「巡回セールスマン問題」にチャレンジしてみます。 [2020-03-16 githubのリポジトリ移動] 巡回セールスマン問題とは 一人のセールスマンが、N箇所の場所を一筆書きで回りたい。この場合に最短時間で回れるコースをどうやってみつけるか？ という問題です。 数学的には「NP困難」と呼ばれる領域の問題で、少しNが大きくなると、調べるべき組み合わせの数が爆発的に増大し、完全解を求められないことがわかっています。より詳しい話は、下記のWikipediaの記事を参照してください。 巡回セールスマン問題 CPLEXの2つのライブラリ これから、この問題をCPLEXを使って解いていくのですが、その前にCPLEXの2種類