機械学習を「社会実装」するということ 2024年版 / Social Implementation of Machine Learning 2024
機械学習を「社会実装」する際に待ち受けている罠と、その解決方法の考察 (2024年版) です。今回は、生成AI時代とも呼ばれる昨今において、我々は機械学習プロジェクトをどのように捉え、どのように向き合えばよいか？の羅針盤になる内容を盛り込みました。 ※この資料は、東京大学メタバース工学部リスキリング講座プログラム グローバル消費インテリジェンス寄付講座 (GCI) 2023 Winterの講義で使用したものです。 https://gci2.t.u-tokyo.ac.jp/archives/course/gci-2023-winter ※過去に同テーマで講義した際に使用した資料はこちら。 https://speakerdeck.com/moepy_stats/social-implementation-of-machine-learning-july-2023-version https:/
30分で完全理解するTransformerの世界
はじめに 初めまして。ZENKIGENデータサイエンスチームのはまなすです。正式な所属はDeNAデータ本部AI技術開発部なのですが[1]、業務委託という形で今年度から深層学習系の開発等に携わっています。 深層学習界隈では、2017年に衝撃的なタイトル（Attention Is All You Need）の論文が発表されてから早5年半、元出自の機械翻訳タスクを大きく越えて、Transformer関連の技術が様々な領域で用いられる汎用アーキテクチャとして目覚ましく発展し続けています。 今回はそんなTransformerが現時点までにどのように活用されてきたか、また、どのように工夫されてきたかをざっくりと俯瞰し、流れをおさらいする目的の記事になります。本記事の大枠は、2021年時点でのサーベイ論文である A Survey of Transformers に倣いつつ、適宜、2023年2月上旬現在ま
数学カフェ 確率・統計・機械学習回 「速習 確率・統計」
The document describes various probability distributions that can arise from combining Bernoulli random variables. It shows how a binomial distribution emerges from summing Bernoulli random variables, and how Poisson, normal, chi-squared, exponential, gamma, and inverse gamma distributions can approximate the binomial as the number of Bernoulli trials increases. Code examples in R are provided to
統計・機械学習の理論を学ぶ手順 - Qiita
社内向けに公開している記事「統計・機械学習の理論を学ぶ手順」の一部を公開します。中学数学がわからない状態からスタートして理論に触れるにはどう進めばいいのかを簡潔に書きました。僕が一緒に仕事をしやすい人を作るためのものなので、異論は多くあると思いますがあくまでも一例ですし、社員に強制するものではありません。あと項目の順番は説明のため便宜上こうなっているだけで、必ずしも上から下へ進めというわけでもありません。 （追記）これもあるといいのではないかというお声のあった書籍をいくつか追加しました。 数学 残念ながら、統計モデルを正しく用いようと思うと数学を避けることはできません。ニューラルネットワークのような表現力が高くて色々と勝手にやってくれるような統計モデルでも、何も知らずに使うのは危険です。必ず数学は学んでおきましょう。理想を言えば微分トポロジーや関数解析のような高度な理論を知っておくのがベス
初学者に教えたい、MicrosoftがGitHubで公開している教材が最高だった！ - Qiita
はじめに エンジニアやデータサイエンティストの人材育成のためのオープンソースな教材を探していたらMicrosoftがGitHubでかなり質の高い教材をweb開発、データサイエンティスト、機械学習、IoTの四項目を対象に提供してるのを発見したため共有したいと思う。 正直、マイクロソフトと聞くとGoogleやらFacebookに比べていけてないイメージを持っていたけど、実際にMicrosoftのGitHubレポジトリを見て、彼らはここ数年で大きく変わったように思える。特に人材育成や学習教材に関しては世界一かもしれないなんて思っています。本記事では筆者が自信を持っておすすめするMicrosoftのオープン教材を紹介するのでぜひ自身の勉強や人材育成に生かしてもらえれば本記事を執筆した甲斐があります。（もちろん僕がお勧めしているだけでなくてGitHubのスター数も多く世界的に認められています！） こ
Exercism
70 languages for you to master Become fluent in your chosen programming languages by completing these tracks created by our awesome team of contributors Code practice and mentorship for everyone Develop fluency in 70 programming languages with our unique blend of learning, practice and mentoring. Exercism is fun, effective and 100% free, forever.
Introduction to Causal Inference
You’ve found the online causal inference course page. Although, the course text is written from a machine learning perspective, this course is meant to be for anyone with the necessary prerequisites who is interested in learning the basics of causality. I do my best to integrate insights from the many different fields that utilize causal inference such as epidemiology, economics, political science
ドメイン知識なし教師なし学習を実現したImage GPT、画像生成もすごい! (画像の表現学習2020夏特集1)
3つの要点 ✔️ 未知ドメイン知識なし教師なし表現学習成功、価値ある実証実験(PoC)、計算量は度外視 ✔️ 生成モデルとしても驚きの画像生成能力 ✔️ 獲得した表現を用いた画像分類でSOTA性能 Generative Pretraining from Pixels written by Mark Chen, Alec Radford, Ilya Sutskever (OpenAI) (Submitted on 17 Jun 2020) Comments: Accepted at ICML2020 Subjects: Computer Vision and Pattern Recognition (cs.CV) Paper Official Code COMM Code 今回から3回の予定で、ライター持ち込み特集企画「画像の表現学習2020夏」と題して、教師なし学習による各種手法をご紹介
オミクスデータと患者データを統合！過学習を解決した深層学習モデルの提案
3つの要点 ✔️ 遺伝子データをはじめとするオミクスデータでは、少ないサンプルで特徴量が高次元であるため、モデルが過学習になる問題が存在 ✔️ 特徴量の多いゲノミクスデータと行列因数分解・AE を用いた次元削減を組み合わせた深層学習モデルを提案 ✔️ オミクスデータと併用して得られる患者と生態学的知見への制約を学習に追加することで、過学習を防ぎ、汎化性能の高いモデルを提案 Integrate multi-omics data with biological interaction networks using Multi-view Factorization AutoEncoder (MAE) written by Tianle Ma & Aidong Zhang (Submitted on 20 Dec 2018) Comments: Published by BMC Genomics
子どもの学習方法に着想、データ効率を高める機械学習の新アプローチ
深層学習では、機械学習モデルの正確さを高めるには訓練用データの量を増やすことが一般的だ。カーネギーメロン大学の研究者らは、親が子どもに教える方法にヒントを得て、データ量を増やさなくてもモデルの正確さを高められる学習アルゴリズムを見い出した。 by Karen Hao2020.05.11 48 17 19 7 機械学習アルゴリズムを訓練する標準的な方法は、すべての詳細情報を一度に与えることだ。さまざまな動物の種類を認識する画像分類システムを構築している場合であれば、各種類の例を示し、それに応じてラベルを付ける。たとえば、犬の場合であれば「ジャーマンシェパード」や「プードル」といった具合だ。 だが、人間の親が子どもに何かを教えるときのアプローチはまったく異なる。親ははるかに広範なラベルで始める。どんな犬種であっても最初は単に「犬」である。子どもがこうしたより単純なカテゴリを区別する方法を学習し
使える統計モデル10選（後編） | AIdrops
使える統計モデル10選（後編） 前回の記事では、使える統計モデル10選の前編として、主に回帰モデルに焦点を絞って紹介しました。 今回はその後編に当たる生成モデル編です。生成モデル（generative model）は、端的に言うと、コンピュータシミュレーションによりデータを人工的に作ることができるモデルです。データが作られる過程をうまく表現したモデルを構築することができれば、予測だけではなく異常検知やデータ圧縮など幅広いタスクに応用することができます。 生成系（教師なし系） 回帰モデルと同様、生成モデルも数個のパラメータから構成される簡単なものから、複数のモデルを巧みに組み合わせた複雑なものまで無限に存在します。ここでは、データ圧縮から自然言語処理、ソーシャルネット解析までさまざまなデータ解析のタスクで利用されている代表的な生成モデルを5つ選んで紹介します。また、生成モデルのすべては潜在変
『たいていのことは20時間で習得できる』を読んだ / 効果的学習のための10のルール - 別にしんどくないブログ
たいていのことは20時間で習得できる 忙しい人のための超速スキル獲得術 作者:ジョシュ カウフマン発売日: 2014/09/20メディア: Kindle版 この本は超速でスキル獲得するためのTipsが書かれた本である。 要約すると、習得したいスキルをできるだけ細かくサブスキルに分解し、少しのリサーチ時間と最も重要なサブスキルに20時間を費やすというものです。 最も重要なサブスキルに集中して習得することで、その後の学習効率が大きく変わるということ。 もし、重要なサブスキルを身に着けて満足であればそこでやめてしまってもいいのだ。 本は理論編と実践編で構成されており、実践編はヨガやプログラミングと具体的なスキルの習得について書かれている。 そのため、実践編は習得したいスキルのところだけ読めばいいだろう。この本自体は理論編が70ページほどで実践編も、例えばプログラミングだと、80ページほどしかない
予測の不確かさを扱える新しい勾配ブースティング「NGBoost」
3つの要点 ✔️ 予測の不確かさを扱える勾配ブースティングの新手法「NGBoost」の提案 ✔️多変数の予測をするときに問題となる勾配の歪みを自然勾配で補正する ✔️任意の弱学習器・確率分布・スコア関数で使える NGBoost: Natural Gradient Boosting for Probabilistic Prediction written by Tony Duan, Anand Avati, Daisy Yi Ding, Khanh K. Thai, Sanjay Basu, Andrew Y. Ng, Alejandro Schuler (Submitted on 8 Oct 2019 (v1), last revised 9 Jun 2020 (this version, v4)) Comments: Published by ICML 2020. Project Pag
メディカルAI専門コース オンライン講義資料
News¶ 2019/12/06: 講義資料Ver 1.1を公開（2019年度版） 2018/12/17: 講義資料Ver 1.0を公開（2018年度版） 本講義資料について¶ 本ページは 日本メディカルAI学会公認資格：メディカルAI専門コースのオンライン講義資料（以下本資料） です． 本講料を読むことで，医療で人工知能技術を使う際に最低限必要な知識や実践方法を学ぶことができます．本資料は全てGoogle Colaboratoryというサービスを用いて執筆されており，各章はJupyter notebook (iPython notebook)の形式（.ipynb）で以下のリポジトリにて配布されています（notebooksディレクトリ以下に全ての.ipynbファイルが入っています）： japan-medical-ai/medical-ai-course-materials 想定受講者¶ 受
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ML Universal Guides | Google Developers
PyTorch の基礎 - Training
Machine Learning University
CS50's Web Programming with Python and JavaScript | Harvard University
深層学習の数理：カーネル法, スパース推定との接点
事前学習言語モデルの動向 / Survey of Pretrained Language Models
