はじめに 千葉大学/Nospareの米倉です．今回は，統計学・機械学習周辺で，僕が良いと思ったチュートリアル/サーベイ論文と講義ノートを簡単なコメント付きで紹介したいと思います．チュートリアル論文やサーベイ論文は，そのトピックの解説や教育面にフォーカスしていて，何か勉強したり，網羅的に把握するときに非常に便利だと個人的に思います．また公開されている講義ノートの中には非常に勉強になるものが多くあります．内容は僕が興味があるトピックに偏っています．またすべて無料で読めます．（教科書等の海賊版みたいなのは載せていません） 10本の紹介 Nickl "STATISTICAL THEORY" Nicklの統計学の講義ノートです．いわゆるM推定量の漸近的性質に加え，バーンスタイン・フォンミーゼズ定理等も証明付きで解説されており，上級レベルの数理統計学を学ぶのに重宝すると思います． Doucet and
退屈な技術を選ぶことについて
この記事は、著者の許可を得て配信しています。 https://panelbear.com/blog/boring-tech/ 注：この記事で書かれている考え方は、過去に何度も取り上げられています。長年にわたって私の視点に大きな影響を与えてきた記事の一つに、McKinley氏の「Choose Boring Technology（退屈な技術を選ぶ）」というものがあります。以下では、私自身の経験からこのトピックを探り、最近のプロジェクトでKubernetesを使うことになった経緯を紹介します。 長年にわたり、私は多くのエンジニアが会社の成功や失敗の多くを技術的な選択が原因であると主張する傾向があるところを見てきました。私にももちろんそういう時もあります。それはしばしば正当化されますが、大多数のスタートアップ企業にとって、プログラミング言語、フレームワーク、あるいはデータベースの選択はそれほど重要
本記事は2021年9月27日に公開したPython security best practices cheat sheetを日本語化した内容です。 2019年、Snykは最初のPythonチートシートをリリースしました。それ以来、Pythonのセキュリティの多くの側面が変化しています。開発者向けセキュリティ企業として学んだこと、そしてPython特有のベストプラクティスに基づいて、Pythonのコードを安全に保つために、この最新のチートシートをまとめました。 【チートシート】2021年版Pythonセキュリティベストプラクティス 本記事では、下記に関するPythonのセキュリティに関するヒントを紹介します。 外部データを常にサニタイズする コードをスキャンする パッケージのダウンロードに注意 依存先パッケージのライセンスを確認する システム標準版のPythonを使用しない Pythonの仮
『ウェブ最適化ではじめる機械学習』はモダンなUI/UX改善の枠組みを学ぶ上で至適の一冊 - 渋谷駅前で働くデータサイエンティストのブログ
ウェブ最適化ではじめる機械学習 ―A/Bテスト、メタヒューリスティクス、バンディットアルゴリズムからベイズ最適化まで 作者:飯塚 修平発売日: 2020/11/19メディア: 単行本（ソフトカバー） こちらの書籍を著者の飯塚修平さんからご恵贈いただきました*1。テーマとしてはウェブ最適化即ちいわゆるUI/UX改善で、そのアプローチについて包括的にまとめた内容です。ちなみに本書は著者ご自身の修士・博士論文の内容に沿ったもので、いわば大学院での研究の集大成とも言えるものなのだそうです。 と書くと、いかにも「ガッチガチの研究」本に見えるかもしれませんが、引用されている事例などには一般のユーザー・消費者でもある我々にも馴染み深いものが多く、意外と取っ付きやすい内容だなと個人的には感じました。また、A/Bテスト・バンディット・ベイズ最適化とそれぞれ個別に専門書が書かれることが多く、別々に学ぶ羽目にな
今回は、何も知らないところからバンディットアルゴリズムを学びました。 シンプルなバンディットアルゴリズムから、各ユーザーごとに最適化するContextual Bandit、順序を最適化するCascading Banditまで解説します。 学んでいて疑問に思ったことを解消しつつ記載しています。 ソースコード https://github.com/birdwatcherYT/bandit 対象読者 バンディットアルゴリズムを理解して実装したい人 ユーザーごとにカスタマイズしたバンディットを理解して実装したい人（Contextual Bandit） 順序を最適化するバンディットを使いたい人（Cascading Bandit） バンディットアルゴリズム バンディットの問題設定を説明します。 スロットマシンN台がある スロットマシンの腕を引くと報酬がもらえる 累積報酬を最大化したい バンディットアル
2021年版：データサイエンティストを初めとするデータ分析職向け推薦書籍リスト（初級5冊＋中級8冊＋テーマ別14冊） - 渋谷駅前で働くデータサイエンティストのブログ
(Image by Pexels from Pixabay) 今年も恒例の推薦書籍リストの季節がやって参りました。……なのですが、昨年はCOVID-19の影響で*1データ分析業界及び隣接分野の新刊書を読む機会が減ってしまいましたので、例年に比べてラインナップの変更をほとんど検討しないままでリストアップしている点、予めご容赦いただければと思います。 そして今回の記事では、これまで以上に「実務家向け」「実践的」であることを重視しています。そのため昨年までのリストに比べて大幅に刷新されているカテゴリもあったりします。また、末尾に僕なんぞが選ぶよりもずっと優れた推薦書籍リストへのリンクも付しておきました。併せて参考にしていただけると幸いです。 初級向け5冊 総論 統計学 機械学習 中級向け8冊 統計学 機械学習 テーマ別14冊 PRML 機械学習の実践 Deep Learning 統計的因果推論
行動を変えるデザイン
深津貴之氏推薦！「行動経済学、データ分析、サービス設計のエッセンスが高度に統合された行動変容デザインの良書です」 本書は、行動経済学と心理学をもとに、人々の行動、日常習慣を変える“行動変容”を促すプロダクトをデザインするための書籍です。主にヘルスケア（健康管理）、金融（資産管理）など、これまでITプロダクト（サービス、アプリなど）がなかなか使われてこなかった分野を対象に、ユーザーがやりたいと思っていたものの実行できなかった行動の実現を助けるプロダクトを作り出すための、実践的な視点や知識を提供します。 翻訳者のみなさんによる特設サイト 正誤表 ここで紹介する正誤表には、書籍発行後に気づいた誤植や更新された情報を掲載しています。以下のリストに記載の年月は、正誤表を作成し、増刷書籍を印刷した月です。お手持ちの書籍では、すでに修正が施されている場合がありますので、書籍最終ページの奥付でお手持ちの書
はじめに ZOZO研究所ディレクターの松谷です。 ZOZO研究所では、イェール大学の成田悠輔氏、東京工業大学の齋藤優太氏らとの共同プロジェクトとして機械学習に基づいて作られた意思決定の性能をオフライン評価するためのOff-Policy Evaluation（OPE）に関する共同研究とバンディットアルゴリズムの社会実装に取り組んでいます（共同研究に関するプレスリリース）。また取り組みの一環としてOPEの研究に適した大規模データセット（Open Bandit Dataset）とOSS（Open Bandit Pipeline）を公開しています。これらのオープンリソースの詳細は、こちらのブログ記事にまとめています。 techblog.zozo.com 本記事では、ZOZO研究所で社会実装を行ったバンディットアルゴリズムを活用した推薦システムの構成について解説します。バンディットアルゴリズムを用い
第一位 Focal Loss for Dense Object Detection 物体検知のためのFocal Loss これは不均衡データに対処するための損失関数Focal Lossを提案した論文なのですが, とにかくそのシンプルさにやられました. 画像のFLの式を見てください. たったこれだけです. ptは正解ラベルに対する予測値なのですが, ptが大きければ大きいほど損失値をしっかり抑えられるように設計された関数となっています. 正解ラベルに対して0.6と予測するサンプルを学習に重要視せず, 0.3とか0.1とか予測しちゃうサンプルにしっかりと重要視するのです. 自分も7月くらいまでは不均衡データに関する研究していたのですが, 自分が考えた多くのアイディアが結局Focal Lossの下位互換に帰結してしまうのです. しかもこの損失関数の汎用性は非常に高く, あらゆるタスクに入れること
新卒データサイエンティストの成長ストーリー #3 RecSys 2022 参加レポート - techtekt
まえがき こんにちは。デジタルテクノロジー統括部アナリティクスグループ新卒の安藤です。前の記事から3ヶ月も空いてしまいました......。 先日9/19-23に行われた国際学会RecSys 2022をオンラインで聴講したので、その報告として記事を書くことにしました。パーソルキャリアからは私を含め3名以上が参加したと聞いています。 The ACM Conference on Recommender Systems、通称RecSysは推薦システムに関するトップカンファレンスであり、ジョブマッチとは密接な関わりがある分野です。 推薦システムの最先端がどのようなものであるかを知ることでビジネスに活かしたいとの思いから参加を申し出た、という経緯です。 (かなり直前の申請でしたが許可をいただくことが出来ました。この場を借りて改めてお礼申し上げます......！) 非常に興味深い発表が多数ありましたが、
【記事更新】私のブックマーク「反実仮想機械学習」（Counterfactual Machine Learning, CFML） – 人工知能学会 (The Japanese Society for Artificial Intelligence)
Home » リソース » 私のブックマーク » 【記事更新】私のブックマーク「反実仮想機械学習」（Counterfactual Machine Learning, CFML） 反実仮想機械学習（Counterfactual Machine Learning, CFML）齋藤 優太（東京工業大学） はじめに機械学習の応用において，反実仮想（Counterfactual）─起こり得たけれども実際には起こらなかった状況─についての情報が得られるとうれしい場面が多くある．例えば，「今動いている推薦アルゴリズムを仮に別のアルゴリズムに変えたときにコンバージョン率はどれくらいになるだろうか？」や「あるユーザに仮にクーポンを与えた場合に離反率はどれくらい減少するだろうか？」などの実務現場でよくある問いに答えるためには，反実仮想についての情報を知る必要がある． 反実仮想機械学習（CFML）とは，因果効果
はじめに 研究者は、自身の研究の有用性を主張するため論文を発表する。 しかしながら、研究の有用性を主張するために、抜け漏れがなく主張点が明確な文章を書くのは、慣れないうちは難しい（慣れても難しい）。 本エントリでは、論文の構造を見出だす工程とその構造を書き下す工程を明示的に分離することで、抜け漏れがなく主張点が明確な論文執筆を行う方法を検討する。 論文執筆の課題 前述の通り、研究の有用性を主張するために、抜け漏れがなく主張点が明確な文章を書くのは、慣れないうちは難しい。 これは、主張の整理と文章の生成を頭の中で同時にやろうとしていることが原因であるように思う。 第一に、主張の整理は複雑なタスクである。 研究の有用性の主張は、いくつかの課題や提案、評価といった複数の要素と、要素同士の関係性のあり方、すなわち「構造」を持つ。 要素やその関係性の増加に伴い、構造は複雑になるため、頭の中だけで網羅
はじめに データ分析：実用系 Kaggleで勝つデータ分析の技術 ウェブ最適化ではじめる機械学習 データ分析：因果推論 入門 統計的因果推論 計量経済学 大人の教養 世界標準の経営理論 科学的に正しい筋トレ 最強の教科書 落合務のパーフェクトレシピ はじめに 今回は、特にドメインを指定せず、読むと間違いなく誰にでも勉強になるであろうと感じた書籍を紹介します。 データ分析：実用系 Kaggleで勝つデータ分析の技術 Kaggleで勝つデータ分析の技術 作者:門脇 大輔,阪田 隆司,保坂 桂佑,平松 雄司発売日: 2019/10/09メディア: 単行本（ソフトカバー） "Kaggleで勝つ"と題名にはありますが、データ分析、特に予測モデルを作るようなケースで重要な基礎知識が実践的に学ぶことができる非常に良い本となっています。例えば、交差検証といえば、基本的には汎化誤差の推定量として統計学の本に
『AI・データ分析プロジェクトのすべて』は駆け出しからベテランまで全てのデータ分析者が読むべき仕事術大全 - 渋谷駅前で働くデータサイエンティストのブログ
AI・データ分析プロジェクトのすべて[ビジネス力×技術力=価値創出] 作者:大城 信晃(監修・著者),マスクド・アナライズ,伊藤 徹郎,小西 哲平,西原 成輝,油井 志郎,株式会社ししまろ発売日: 2020/12/21メディア: 単行本（ソフトカバー） 旧知どころか僕が7年前にこのブログを始めた頃からの友人でもある、てつろーさんこと伊藤徹郎さんからご恵贈いただいたのがこちらの一冊です。執筆陣にはてつろーさんのみならずデータ分析業界の著名人がズラリと並んでおり、これぞ豪華版といったところでしょうか。 執筆陣が豪華なだけあって、内容もまた素晴らしい充実ぶり。今年読んだデータ分析業界の新刊書の中でもトップクラスと言っても過言ではないと思います*1。記事タイトルにも大書しましたが、まさにこれこそが「全てのデータ分析者が読むべき仕事術大全」だと唸らされた次第です。 ということで、早速本書をレビューし
どうも @metalunk です． コスパ，大事ですよね？コストをある値以下に抑えたとき，どれだけパフォーマンスを発揮できるか，という話です． 10X で最初の機械学習プロダクトを作るにあたり，コスパを意識して MLOps 基盤を作ったので，それの紹介をします． Stailer における ML の重要性 レジ前推薦 作りたかったもの アーキテクチャ Training pipeline の選択 Python function-based component vs Own container component Serving 用データストア CI (Continuous Integration) CD (Continuous Delivery) Monitoring リポジトリ構成 認証 Vertex ML Metadata stailer-suggest-batch の移行 組織の話 未来
2022年版：実務の現場で働くデータサイエンティスト向け推薦書籍リスト（初級5冊＋中級8冊＋テーマ別14冊） - 渋谷駅前で働くデータサイエンティストのブログ
(Image by ElasticComputeFarm from Pixabay) 今年も恒例の推薦書籍リストの季節がやって参りました。……なのですが、相変わらず続くCOVID-19の影響*1でデータ分析業界及び隣接分野の新刊書を読む機会が減ったままにつき、例年とほぼ同じラインナップになっている点、予めご容赦いただければと思います。 初級向け5冊 総論 R・Pythonによるデータ分析プログラミング 統計学 機械学習 中級向け8冊 統計学 機械学習 テーマ別14冊 回帰モデル PRML 機械学習の実践 Deep Learning 統計的因果推論 ウェブ最適化 ベイズ統計 時系列分析 グラフ・ネットワーク分析 SQL コメントなど 初級向け5冊 初級向け書籍リストはあまり出入りがないのが通例ですが、今回も微妙に入れ替わりがあります。 総論 AI・データ分析プロジェクトのすべて[ビジネス力×
認知心理学の観点からみたGPT3の振る舞いとロボット技術・Labratory Automation - 電通総研 テックブログ
XI本部 オープンイノベーションラボの飯田です。 最近、ChatGPTをはじめとした生成AIが注目されています。 その中で、Gigazineのニュースで以下の話を目にしました。 gigazine.net 上記の記事に感化され、心理学でChatGPTのようなものが、どのように扱われているのかを調べています（私は大学で心理学専攻だったこともあり）。その中で、心理学系論文のプレプリントが掲載されている PsyArXivで、GPT-3の振る舞いを認知心理学の観点で分析した論文を見つけました。 生成系の振る舞いを理解する上でも参考になりそうだし、ISIDでも取り組んでいるロボット技術やLabratory Automationとの接合点を見つけた気がしましたので、ISIDでの取り組みを紹介しつつ、妄想したいと思います。 Binz, M., & Schulz, E. (2022, June 21). U
法がおよびづらい、海の無法者たちの世界を暴き出すノンフィクション──『アウトロー・オーシャン:海の「無法地帯」をゆく』 - 基本読書
アウトロー・オーシャン(上):海の「無法地帯」をゆく 作者:イアン・アービナ白水社Amazonこの『アウトロー・オーシャン』は、ニューヨーク・タイムズで記者として働き、本書のもととなった「無法の大洋」と名付けられた一連の記事で数々の賞を受賞したイアン・アービナによる一冊である。海は監視が行き渡らないこと、そもそも法的な空白地帯が広いこともあって、陸地では想像もできないような犯罪行為が平然とまかり通っている。当たり前のように人間が射殺され、給料を支払いたくないために船だけ残して置き去りにする雇い主、事実上の奴隷労働など、これは本当に21世紀なのか？？ と思うような悲惨な出来事が、日常のように起こり得る世界である。 著者は、5年ほどの取材期間の間に、7つの海をまたにかけ、日本の捕鯨船に攻撃を加えようと追い回すシーシェパードの船に乗り込み、石油企業と海を守ろうとする研究者らとの戦いを調査し、海上
「機械学習とビジネスを橋渡しするものこそ評価指標であり, "全てのビジネスは条件付期待値の最大化問題として書ける"」という話の問題点と代替案 - ill-identified diary
概要 はじめに I. 条件付き期待値が全てか? i 条件付き「期待値」だけでよいのか? ii 条件付き期待値の条件とはなにか? メディアミックスモデルを例に 外挿と選択バイアス 補足: 条件付き期待値の条件付けに関して II. 機械学習の性能評価 ≠ ビジネスモデル なのか? 分類モデルと確率の推定 確率推定の評価はできるのか III. こういう話の教科書・参考書はないのか? まとめ 参考文献 概要 『機械学習とビジネスを橋渡しするものこそ評価指標であり, ”全てのビジネスは条件付期待値の最大化問題として書ける”仮説についての一考察 - 株式会社ホクソエムのブログ』というブログ記事に対する私の昨日の twitter での連続投稿の話を書き改め, 説明不足な部分を補った. 昨日と同様に, (I) 条件付き期待値だけでよいか, (II) ビジネスモデルと機械学習の性能評価は一致しないのか, (
心の傷の忘年会。AUTOMATONライターが清算したい、2021年の「ゲーミング・トラウマ大賞」 - AUTOMATON
今年2021年を振り返る、AUTOMATONの年末企画第1弾。ゲーミングライフは、つねに喜びばかりではない。本気でゲームに取り組んでいるからこそ、ときには癒やしがたい心のダメージを負うこともある。犯してしまった失敗、今も苦しんでいる困難、思い出したくない恐怖。本記事では、弊誌ライター陣による今年のトラウマエピソードを紹介していこう。もし同じ傷を抱えた読者がおられれば、ともに記憶を洗い流し、すがすがしく新年を迎えようではないか。 「人生立ち止まることを忘れずに」 『真・女神転生Ⅴ』 開発元：アトラス 販売元：セガ 対応プラットフォーム：Nintendo Switch それは、油断。慢心。睡眠不足。限界を優に超えた深夜テンション。レビューを執筆するため、『真・女神転生Ⅴ』を全力攻略していたときのこと。原稿の締め切りが迫る中、荒廃した台東区で神々の決戦を迎えた私は、ランナーズ・ハイにも似たレベリ
Off-Policy Evaluationの基礎とZOZOTOWN大規模公開実データおよびパッケージ紹介 - ZOZO TECH BLOG
※AMP表示の場合、数式が正しく表示されません。数式を確認する場合は通常表示版をご覧ください ※2020年11月7日に、「Open Bandit Pipelineの使い方」の節に修正を加えました。修正では、パッケージの更新に伴って、実装例を新たなバージョンに対応させました。詳しくは対応するrelease noteをご確認ください。今後、データセット・パッケージ・論文などの更新情報はGoogle Groupにて随時周知する予定です。こちらも良ければフォローしてみてください。また新たに「国際会議ワークショップでの反応」という章を追記しました。 ZOZO研究所と共同研究をしている東京工業大学の齋藤優太です。普段は、反実仮想機械学習の理論と応用をつなぐような研究をしています。反実仮想機械学習に関しては、拙著のサーベイ記事をご覧ください。 本記事では、機械学習に基づいて作られた意思決定の性能をオフラ
ふかうら王の製作のためにdlshogiのソースコードをくまなく読んだので、Deep Learning型の将棋についてつらつらと書いてみる。 dlshogiとは dlshogiは先月に開催された将棋ソフトの大会「電竜戦」で優勝したGCTのエンジン部分(探索部)でもある。つまりは、dlshogiは現在、世界最強の将棋ソフトと言っても過言ではないだろう。従来の将棋ソフトとはどこが異なるのだろうか。今後、Deep Learning系の将棋ソフトの導入を検討している人向けにざっと書いていく。 ※ 今回書くのは、現在のdlshogiの話である。将来的に改良される可能性は大いにあるが、2020年の電竜戦では、この仕様であったということである。 CPUを使うソフトとGPUを使うソフト、どちらがコスパがいいの？ 今回、電竜戦で優勝したGCTをGeForce RTX 2080で動かすとfloodgateでR3
仕事ではじめる機械学習 第2版
2018年の発行以来、多くの読者に支持された書籍を全面改訂！ 不確実性の高い機械学習プロジェクトについて、「仕事で使う」という観点から整理するコンセプトはそのままに、初版の発行後に登場した概念や課題を取り上げます。「機械学習でいい感じにしてくれ」と突然上司に言われたとき、本書で学んだことが読者の力になるはずです。本書で得た知識は読者が「いま」困っている問題を解決する助けとなるでしょう。 第2版では、機械学習システムの開発と運用の統合する「ML Ops」、機械学習モデルを解釈し、その妥当性や根拠を明らかにする「機械学習モデルの検証」、ユーザーの行動を学習しながら予測を進める「バンディットアルゴリズム」、意思決定における予測システムの役割や意思決定のデザインを扱う「オンライン広告での機械学習」といった新章を追加しています。 本書のサポートページ（GitHub） まえがき 第I部 1章 機械学習
ゼロから作るDeep Learning ❹
人気シリーズの第4弾。今回のテーマは強化学習です。実際のコードを提示し動かしながら学ぶという本シリーズのスタイルを踏襲し、外部ライブラリに頼らず、強化学習を支える基本的な技術やアイデアをゼロから実装しながら学びます。本書では読者が強化学習独特の理論を確実にマスターできるように、強化学習という難解なテーマの構成要素の一つひとつを「理論」と「実践」の双方から丁寧に解説します。数式だけで説明する理論書とは異なり、読者はコードを通してハッとする気づきを数多く得られるでしょう。 関連ファイル サンプルコード 正誤表 ここで紹介する正誤表には、書籍発行後に気づいた誤植や更新された情報を掲載しています。以下のリストに記載の年月は、正誤表を作成し、増刷書籍を印刷した月です。お手持ちの書籍では、すでに修正が施されている場合がありますので、書籍最終ページの奥付でお手持ちの書籍の刷版、刷り年月日をご確認の上、ご
この1-2年でアドテクスタジオでもMulti-Arm-BanditやContextual-Banditといった単語がプロダクトとのMTGの中で飛び交うようになり、社内における応用例も徐々に増えてきました。 Banditそれ自体も非常に面白いのですが、個人的には「それをどの様に評価・比較するのか？」という問題が非常に面白いと考えています。 その大きな理由の一つは評価に因果推論の発想を用いる必要性が生じている事にあります。 今回は、Contextual-Banditの様なPolicyの評価方法について簡単なイントロを行えればと思います。 1. セットアップ 広告の画像をContextual-Banditで選択している様な状況を考えます。 すでに何らかの広告を見せる事が決まっているリクエスト(i)が来るたびに、そのリクエストを発生させたユーザーのcontext(X)が手に入り、それを元に報酬(r
KDD Cup2019 5位入賞！まだまだ新しい技術を身に付けたい。これからも技術者として挑戦を続けます。｜TO THE FUTURE｜日鉄ソリューションズ
世界中からデータ分析界隈の技術者が集まり能力を競う「KDD Cup」。この世界的な大会にNSSOLのフェローであり、グループ会社の金融エンジリアリング・グループ（FEG）の代表取締役社長である南 悦郎さんが初参加で5位入賞を果たしました。南さんはNSSOLでシステム研究開発センター所長を務めるなどAIを専門に活躍してきた技術者です。その南さんが闘ったKDD Cup2019とはどのようなものだったのでしょうか。 KDD Cup初の試み データのないデータ分析の課題に参加者が困惑？ ―― 国際的なデータ分析コンペティンションであるKDD Cupに5位入賞、おめでとうございます。今年はどのような大会でしたか。 南：39か国から2800チームほど登録がありましたが、実際に競技に加わったのは1200チームで5000人程度が参加したようです。 今回は初めての試みでトラックが3つに分かれていました。 1
強化学習コンペで交通×AIに挑戦：KDDCUP2020 RL Track 世界3位獲得！ - Qiita
はじめに Happy Holidays 🎉 NTTドコモの出水です．最終日の本記事では，ドコモR&Dチームで参加した強化学習コンペティションの取組みと活用方法をお届けします！ コンペのテーマは「交通$\times$AI」で，タクシーの配車割当てや再配置 (Taxi dispatching & repositioning) を最適化するAIの開発でした🚖 Source : KDD Cup 2020 Reinforcement Learning Competition ドコモR&Dでは，データサイエンス分野の技術力向上を目的に，世界最高峰のデータ分析コンペティションKDD Cupへ毎年参加しています． 2019年は１部門で優勝，続く2020年は３部門で入賞を果たしました1． 世界最高峰のデータ分析競技会「#KDDCUP 2020」の3部門で入賞 2016年から参加を続け、今回の入賞は2年連
【開催報告&資料公開】ML@Loft #6 × MLPP #4 – 自然言語・レコメンド・時系列解析 | Amazon Web Services
AWS Startup ブログ 【開催報告&資料公開】ML@Loft #6 × MLPP #4 – 自然言語・レコメンド・時系列解析 ML@Loft #6 × MLPP #4 「自然言語・レコメンド・時系列解析 」 AWS 機械学習ソリューションアーキテクトの宇都宮 ( Twitter: @shokout ) です。本ブログでは ML@Loft 第6回 x MLPP 第４回「NLP/レコメンド/時系列解析」の開催概要を報告いたします。 ML@Loft は、 機械学習を AWS 上でプロダクション運用しているデベロッパー・データサイエンティストのためのコミュニティイベントです。毎月テーマを設定し、前半は各分野のエキスパートの方々からの LT、後半は機械学習のサービス導入のノウハウや様々なツラミについて、LT のご講演者の方々を交えて参加者全員参加型のお悩み相談ラウンドテーブルという構成で A
担当した3daysインターンシッププログラムが無事に終ったので、自分が何を考えていたかをまとめます。いわゆる「機械学習エンジニア」向けのインターンです。 https://voyagegroup.com/internship/adventure/ 背景 期間3日でやりたいと打診を受けた時に真っ先に思いついたのはコンペ形式のプログラムでした。しかしKaggleを筆頭に実際のビジネスで発生したデータを使ったEDAおよび機械学習予測モデルの開発ができる機会は今やいくらでもあるため、Kaggleそのままの形式では目新しさに欠ける。さらに実際の開発業務では求めた予測値を使って意思決定を自動化する所までが求められるため、予測器を作って精度を見て終りというのは片手落ちとなってしまう。よって、求めた予測値を利用して意思決定を行なうアプリケーションを実装してビジネス指標が出力として得られる部分までを範囲としま
強化学習の評価でよく使われるAtariのゲームですが、ついに57全てのゲームで人間を超えた手法が現れたようです。 早速実装してみました。 ※ネット上の情報をかき集めて自分なりに実装しているので正確ではない点はご了承ください ※解釈違いの内容がある可能性もご注意ください（理解が追いついていない部分があります） コード全体 本記事で作成したコードは以下です。 github GoogleColaboratory(実行結果付き) ※GoogleColaboratoryはmultiprocessingの相性が悪いらしく1Actorのみの学習となります) ※MountainCarの学習をのせています 追記：自作フレームワークを作成しています。そちらの実装の方が正確なコードとなります。 目次 構成としては前半が技術解説で後半が実装の説明になります。 Agent57とは NGU(Never Give Up
2020年11月25〜27日の3日間、LINE株式会社が主催するエンジニア向け技術カンファレンス「LINE DEVELOPER DAY 2020」がオンラインで開催されました。そこで LINEのフェローであり、Data Science and Engineeringセンターに所属する並川淳氏が、「LINEではどのようにサービス横断でのデータ活用を実現しているのか」というテーマで、LINEにおけるデータの扱い方について共有しました。 LINEにおけるデータ活用の取り組み 並川淳氏（以下、並川）：本日は「LINEではどのようにサービス横断でのデータ活用を実現しているのか」というタイトルで、並川が発表いたします。私は、LINEではふだん機械学習に関わる開発全般を担当しています。ですが、今日は機械学習に限らず、LINEにおけるデータ活用の取り組みについて幅広く紹介させてもらえればと思っています。よ
(Image by Gerd Altmann from Pixabay) 元々Quora英語版で回答を書いた話題なのですが、「データサイエンティストの典型的なワークフロー」というのは当たり前の話題のようでいて意外と難しいトピックです。それこそ例えば巷の営業やエンジニアの人々に向かって「あなたの『職種』の典型的なワークフロー」について教えて欲しいとリクエストしても「それは個々の現場・会社ごとに千差万別だろう」と言われてしまうのが関の山だと思われます。 ただ、おそらくこの質問がQuora英語版でされていた理由として「まだデータサイエンティストという職種がそれほど世間に広まっていないので、そもそもどのような仕事の流れをたどるかのイメージ自体が未経験者には思いつかない」ということがあるのではないかと個人的には見ています。ここが明確になっていないせいで、新たにデータサイエンティストの仕事に就きたいと
MonotaROのMLOps〜バンディットアルゴリズムの効果を最大化するリアルタイムデータパイプライン〜 - MonotaRO Tech Blog
はじめに 皆さん、こんにちは。MonotaROTechBlogをご覧いただきありがとうございます。データサイエンスグループ所属の植村です。今回の記事では、MonotaROで取り組んでいるバンディットアルゴリズムを用いた施策を支える、データパイプライン*1を紹介したいと思います。リアルタイムな情報を用いて最適化を行う基盤を提供する方々の参考になれば幸いです。 はじめに 本記事でお伝えしたいこと MonotaROのデータサイエンスチームの環境について MonotaROとバンディット MonotaROにバンディットを導入する際の課題や必要な要件 実際に構築したデータパイプラインの紹介 こぼれ話(負荷テストで驚いたお話) データパイプラインによって変わったこと 終わりに(まとめ) 本記事でお伝えしたいこと MonotaROの推論APIの裏で動くデータパイプラインの紹介。 バンディットをMonota
2019年12月8～14日にカナダ・バンクーバーで開催された国際学会NeurIPS（2017年まではNIPS）はAIのトップ会議の1つである。筆者はNeurIPSには2017年から3年連続で参加しており、NeurIPS2019にも参加してきた（この記事は参加最終日に書かれている）。 今回はNeurIPSとはどのような学会なのか、学会では実際何が行われているのか、参加することにどのようなメリットがあるのか、どのような研究が評価され、どのようなトレンドがみられるのかについて紹介していく。 急拡大するNeurIPS まず、NeurIPSについて説明する。機械学習のトップ国際会議としてはNeurIPSに加えて、それと双璧をなすICML、深層学習専門の新しいICLRなどがある。全科学分野のジャーナルのインパクト（h5-index）によるランキングでNeurIPSは27位であり、10位の画像認識のCV
多腕バンディット問題としての広告配信の最適化 | CyberAgent Developers Blog
こんにちは、AI事業本部 Dynalyst所属のデータサイエンティストをしている藤田です。今回は内定者バイトとしてDynalystにて働いて頂いた黒岩さんからの寄稿記事です。 以下本文です。 AI事業本部のDynalystで、機械学習エンジニアとして一ヶ月間内定者バイトをしていた黒岩です。広告配信の最適化手法と内定者バイトで取り組んだ課題について紹介します。 広告配信では、複数の候補の中から一つの広告を選んで広告枠に表示します。この時、ユーザのクリック数の合計を最大化するように広告を選びたい、というのが今回の問題設定です。 単純に考えれば、これまでのデータから計算されるクリック率（CTR）が最も高い広告を選べば良さそうなものです。しかし、CTRを計測するためには全ての広告をある程度の回数表示してデータを集める必要があるので、この過程でCTRの低い広告も表示することになります。したがって、C
№1,194 １０月４日に生まれて「リヒャルト・ゾルゲ」｜ 洋楽セレクション「Clean Bandit - Symphony」 - 糸屯 ち ゃ ん の エ ン タ メ 通 信
■ 目 次 はじめに １０月４日に生まれて「リヒャルト・ゾルゲ」 洋楽セレクション「Clean Bandit - Symphony」 おわりに 純ちゃんのおまけ - Blog Ranking Lists はじめに テーマは、１０月４日に生まれて 「リヒャルト・ゾルゲ」 リヒャルト・ゾルゲについて、考えていきたいと思います！ 本文中に青字や薄く下線があり、カーソルをその文字に合わせて、指マークに変わればリンクに飛ぶことができます そしたら、その意味を教えてくれるからね～ (* ˃ ᵕ ˂ )b 皆さん、おはようございます アシスタントの真行寺（しんぎょうじ）です それでは、さっそくわたくしの方からも、ブログの紹介をさせて 頂きます 洋楽セレクションは、ブログの最後に、大絶賛掲載中 ですので、是非ご覧ください 本日のナンバーは、Clean Bandit - Symphony を チョイスしまし
日時：令和元年7月22日13時〜 場所：東京大学工学部14号館にて 『圏論の道案内 〜矢印でえがく数学の世界』（2019年8月9日発売）に先立って 西郷甲矢人（さいごうはやと） 『圏論の道案内』著者の1人。1983年生まれ。長浜バイオ大学准教授。専門は数理物理学（非可換確率論）。 成瀬誠（なるせまこと） 西郷先生と近年一緒に研究をされていて、情報物理の観点から、圏論の応用に取り組んでおられます。東京大学大学院情報理工学系研究科システム情報学専攻 教授。 この対談では、圏論の道案内として、圏論との出会いや関連の研究分野とのつながりなどを連載 全6回にわたって語っていただきます。 左：成瀬誠先生 右：西郷甲矢人先生 第1回 圏論との出会い 西郷 今日はどうもお忙しい中ありがとうございます。『圏論の道案内』は私と能美十三氏のある種の対談本みたいな形だったので、きょうも対談がよいかなと思
こんにちは！ dely開発部の高松です。 この記事は「dely #1 Advent Calendar 2020」の16日目の記事です。 昨日はクラシルのUIデザイナーをされているymdskoさんの「UIデザイナーとして働く私が就活生に戻ったら絶対やること5つ」でした。 是非こちらもご覧ください。 note.com 「dely #1 Advent Calendar 2020」 adventar.org 「dely #2 Advent Calendar 2020」もありますので、是非そちらもご覧ください。 adventar.org さて、いきなりですが質問です。 目の前にそれぞれ決められた一定の確率で報酬を得ることができるボタンが4つあります。 合計で1000回ボタンを押して、4つの内どれが一番当たる確率が高いボタンかを検証してみてください。 なお、1000回ボタンを押したことで得た報酬は全て
メディア芸術領域の現状をより深く、広く伝えるため愛称を「MACC」とし、総合的な広報用ウェブサイト「メディア芸術カレントコンテンツ（MACC）」として令和5年2月13日リニューアルオープンしました。 （https://macc.bunka.go.jp/） 当サイトは、これまでの記事をアーカイブとして掲載しています。 海外においてまだ日本のマンガが浸透していなかった90年代に、アメリカのファンダムで“最もよく知られた日本のMANGA家のひとり”であったまんが家・一本木蛮（いっぽんぎ・ばん）。「コスプレアイドル」の元祖でもある彼女は、アメリカの出版社から多数の著作を出版していたのみならず、現地のコンベンションに積極的に参加し、ファンとの交流をはかっていた。そんな特異な存在になるまでにはどのような経緯があったのか。当時のアメリカにおける日本のマンガの出版事情も交えながら、本人の言葉を伝えていく。
こんにちは、ももベルです🌷 本日は耳も心も幸福感に包まれるような 洋楽カバー曲をご紹介します✨ How Deep Is Your Love Officially Missing You More Than Words I'm Not The Only One Symphony ft. Zara Larsson How Deep Is Your Love www.youtube.com 日本では「愛はきらめきの中に」という名で 知られている１９７７年発表のこちらの曲。 オーストラリア出身の兄弟ボーカルグループBee Gees(ビージーズ)の曲で、 発売から４０年以上経ってもカバーされる続ける名曲です。 本家：Bee Gees - How Deep Is Your Love (Official Video) - YouTube 上の動画でカバーしているのは、 韓国出身のシンガーAROさん。
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
無料で読める統計学・機械学習周辺のチュートリアル論文や講義ノート10本 - Qiita
Python開発者のためのセキュアコーディングのコツ10個 - Qiita
いろんなバンディットアルゴリズムを理解しよう - Qiita
バンディットアルゴリズムを用いた推薦システムの構成について - ZOZO TECH BLOG
2019年、俺の読んだ論文50本全部解説(俺的ベスト3付き) - Qiita
構造を意識した抜け漏れがなく主張点が明確な論文執筆
（データを扱う）ビジネスマン全てにおすすめの本 - HELLO CYBERNETICS
10X のコスパ重視 MLOps - 10X Product Blog
Deep Learning将棋は従来の将棋ソフトとここが違うぞ | やねうら王 公式サイト
バンディットアルゴリズムの評価と因果推論 | | AI tech studio
データ分析系3daysインターンシッププログラムで伝えたかったこと
【強化学習】ついに人間を超えた！？Agent57を解説/実装してみた（Keras-RL） - Qiita
大量のユーザーデータを横断的に使うために LINEのデータサイエンティストが気をつけているいくつかのこと
データサイエンス実務の典型的なワークフローを考える - 渋谷駅前で働くデータサイエンティストのブログ
《日経Robotics》AIトップ国際会議では何が起きているか
第1回 圏論との出会い | gihyo.jp
バンディットアルゴリズムをライトに解説 - dely Tech Blog
海外に日本マンガを届けた人々<br>第2回 まんが家・一本木蛮 - メディア芸術カレントコンテンツ
【音楽】ギターの音色が心地よい、洋楽カバー５選。 - ももベルのトラベルぶろぐ