GWに徹底理解！GPTの仕組みをめちゃくちゃ分かりやすく解説する無料動画公開 | Ledge.ai
サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。
サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。
さまざまな数学的トピックをムービー形式で解説するサイト「3Blue1Brown」において、ChatGPTに代表されるAIを形作っている「Transformer」構造の心臓部「Attention(アテンション)」についての解説が行われています。 3Blue1Brown - Visualizing Attention, a Transformer's Heart | Chapter 6, Deep Learning https://www.3blue1brown.com/lessons/attention AIの中身と言える大規模言語モデルのベースとなる仕事は「文章を読んで次に続く単語を予測する」というものです。 文章は「トークン」という単位に分解され、大規模言語モデルではこのトークン単位で処理を行います。実際には単語ごとに1トークンという訳ではありませんが、3Blue1Brownは単純化して
この動画は3Blue1Brownの動画を東京大学の学生有志団体が翻訳・再編集し公式ライセンスのもと公開しているものです。 チャンネル登録と高評価をよろしくお願いいたします。 日本語版Twitter https://twitter.com/3B1BJP 元チャンネル（英語） https://www.youtube.com/c/3blue1brown 元動画（英語） https://youtu.be/wjZofJX0v4M?si=9YsuEzHATlhPtpOF Check out our new channel Ufolium https://www.youtube.com/watch?v=wrNCjIjIzuk&pp=ygUj5aSn57Wx6aCY6YG45oyZ44Gu5LuV57WE44G_IHVmb2xpdW0%3D Richard Turner's introduction
畳み込みの仕組み | Convolution
確率から画像処理まで、離散畳み込みと高速フーリエ変換(FFT) 激ムズ数え上げパズルと驚きの解法 https://youtu.be/FR6_JK5thCY フーリエ変換の解説動画 https://youtu.be/fGos3wrKeHY 【注釈】 整数のかけ算のアルゴリズムについて、FFTの"straightforward"な適用はO(N * log(n) log(log(n)) )の実行時間になる。log(log(n))の項は小さいが、2019年になってHarvey and van der Hoevenがこの項を取り除くアルゴリズムを発見した。また、O(N^2)を、必要な計算量がN^2と共に大きくなると表現したが、厳密にはこれはTheta(N^2)が意味するところである。 O(N^2)は計算量が高々N^2の定数倍になるという意味で、特に、実行時間がN^2項を持たないが有界であるアル
DeNAのAIシステム部、音声チームの豆谷と申します。前回の記事では音声変換を解説しました。本記事では、ManimというPythonのモジュールを使って美しい動画を作る方法を紹介します。 本記事のターゲット 教育系の動画制作でかなりの実績（YouTubeでの評価など）あるアニメーションエンジンを紹介します。日本語に対応する方法を解説することで、より多くの日本語話者（特にエンジニア）が自らの知識や経験を簡単に動画にできると知ってもらえると嬉しいです。今まであまり世に伝えられなかった学識や表現が、世界中の人々にシェアされるキッカケになると最高です（具体例を挙げてみました1）。 Python好きに向けて美しい動画の作り方を説明します。Pythonの楽しさ2と動画制作3というクリエイティブな組み合わせにより多くの人が関心を持ってもらえると嬉しいです。 Manim 3Blue1Brown（以下、3b
なぜ素数は螺旋を描くのか？
一見すると規則性のないように考えられる素数は、任意の観点から結びつけるとまるでらせんを描いているように見えることがあります。数学者のグラント・サンダーソン氏が、こうした性質と数学の魅力を紐付けて解説しています。 3Blue1Brown - Why do prime numbers make these spirals? https://www.3blue1brown.com/lessons/prime-spirals ある二次元平面に点を置く場合を考えます。以下の画像において、点(1,1)は原点から角度1ラジアン、距離1の位置にあります。同様に(2,2)(3,3)(4,4)の点も置いていきます。 このように点を増やし続けると次第に螺旋(らせん)状に広がり、「アルキメデスの螺旋」と呼ばれる図形を形作ります。 この図形から素数以外を抜いてみるとこんな感じ。穴の空いた部分が素数ということですが、
この動画は3Blue1Brownの動画を東京大学の学生有志団体が翻訳・再編集し公式ライセンスのもと公開しているものです。 チャンネル登録と高評価をよろしくお願いいたします。 このシリーズが良いと思った方はぜひ共有もよろしくお願いします！ 前回（第一回） https://youtu.be/tc8RTtwvd5U?si=15_MXStvqOZqL74O （英語版概要欄より）------------------------------------- さらに学びたい方へ、Michael Nielsenの本 http://neuralnetworksanddeeplearning.com こちらの本ではシリーズで扱われている例のコードを説明していきます： https://github.com/mnielsen/neural-networks-and-deep-learning MNIST d
【視覚的に理解する】フーリエ変換
この動画は3Blue1Brownの動画を東京大学の学生有志団体が翻訳・再編集し公式ライセンスのもと公開しているものです。 チャンネル登録と高評価をよろしくお願いいたします！ 元動画（英語） https://youtu.be/spUNpyF58BY 元チャンネル（英語） https://www.youtube.com/c/3blue1brown 日本語版Twitter https://twitter.com/3B1BJP Music by Vincent Rubinetti Download the music on Bandcamp: https://vincerubinetti.bandcamp.com/album/the-music-of-3blue1brown Stream the music on Spotify: https://open.spotify.com/album/
3Blue1BrownJapan
3Blue1Brownの日本語版公式チャンネルです。東京大学の学生有志団体が本家3Blue1Brownの公式ライセンスのもと、動画を日本語に翻訳・再編集し公開しています。元のチャンネル（英語）https://www.youtube.com/c/3blue1brown
This video made possible with support of Brilliant - the first 200 subscribers to go to http://Brilliant.org/MinutePhysics get 20% off a Premium subscription to Brilliant. Go to http://aatishb.com/covidtrends to explore the graph from the video yourself! RESOURCES Grant's 3Blue1Brown Video: Exponential Growth and Epidemics: https://www.youtube.com/watch?v=Kas0tIxDvrg Aatish's Exponential/Logist
英語圏 YouTube に人生を溶かしすぎたのでみなさんの人生も溶かします - はちみつ漬けショートケーキ
これは 東京大学きらら同好会 Advent Calendar 2022 の14日目の記事です。1日遅れてごめんなさい...... adventar.org きららじゃないものって、あんまりない！！（詠唱） 現状 時事・ドキュメンタリー系 ・Vox ・Wendover Productions ・B1M ・Mustard ・neo ・Calum ・Peter Dibble ・Kraut ・欧州新参連合（と私が呼んでいるもの） ・Ryan Chapman 科学・エデュテインメント系 ・Tom Scott ・Vsauce ・Veritasium ・StandUpMaths ・3Blue1Brown ・Steve Mould ・CGP Grey ・jan Misali ・Jay Foreman ・exurb1a ・Junferno ・Practical Engineering 私の趣味 ・ミリタリー
Even prettier solution: https://youtu.be/brU5yLm9DZM Help fund future projects: https://www.patreon.com/3blue1brown An equally valuable form of support is to simply share some of the videos. Special thanks to these supporters: http://3b1b.co/clacks-thanks Home page: https://www.3blue1brown.com Many of you shared solutions, attempts, and simulations with me this last week. I loved it! You all a
新型コロナウイルスが指数関数的に流行している可能性が示唆される
中国の湖北省武漢市で発見された新型コロナウイルス感染症(COVID-19)は、2020年1月下旬から中国国外へと流行が拡大しています。中国を除いた地域での感染者数をまとめたグラフをYouTubeの数学解説チャンネル・3Blue1Brownが公開しており、約1カ月半で指数関数的に流行が拡大していることがわかります。 Exponential growth and epidemics - YouTube 以下のグラフは、2020年1月22日(水)から2020年3月6日(金)までの、中国本土を除いた総感染者数の推移を示すグラフです。縦軸は感染者数、横軸は日数を表しています。 1日ごとに、感染者数は前日の約1.15倍から約1.25倍に増加し続けており、「指数関数的に増加している」とサンダーソン氏は指摘しています。 「N」は1日の感染者数、「E」は感染した人が毎日接触する平均人数。「p」は感染者の接触
結局ビットコインってどういう仕組みなの？
この動画は3Blue1Brownの動画を東京大学の学生有志団体が翻訳・再編集し公式ライセンスのもと公開しているものです。 チャンネル登録と高評価をよろしくお願いいたします！ 訂正: 動画冒頭「誰が発行したか」→「誰が発明したか」 2^256の動画: https://www.youtube.com/watch?v=tWAS8JijPJY 元動画（英語）:https://youtu.be/bBC-nXj3Ng4 おすすめの文献: Bitcoinの論文: https://bitcoin.org/bitcoin.pdf Block explorer: https://blockexplorer.com/ Michael Nielsenのblogの投稿: https://goo.gl/BW1RV3 (この動画では扱わなかった、取引の仕組みについて理解するのにおすすめです。) CuriousI
An excuse to teach a lesson on information theory and entropy. Special thanks to these supporters: https://3b1b.co/lessons/wordle#thanks Help fund future projects: https://www.patreon.com/3blue1brown An equally valuable form of support is to simply share the videos. Contents: 0:00 - What is Wordle? 2:43 - Initial ideas 8:04 - Information theory basics 18:15 - Incorporating word frequencies 27:49
This website allows you to draw your own fourier epicycle drawings, either by uploading an svg or by mouse. I had quite a bit fun creating this, so at the end there is a brief explanation trying to give the reader some mathematical intuition as to how revolving circles and the fourier transform are connected. My motivation for this website is to try and fill a gap left by other work (mentioned at
How Machine Learning Uses Linear Algebra to Solve Data Problems
Machines or computers only understand numbers. And these numbers need to be represented and processed in a way that lets machines solve problems by learning from the data instead of learning from predefined instructions (as in the case of programming). All types of programming use mathematics at some level. Machine learning involves programming data to learn the function that best describes the da
3Blue1Brown - Visualizing Attention, a Transformer's Heart | Chapter 6, Deep Learning
ThanksSpecial thanks to those below for supporting the original video behind this post, and to current patrons for funding ongoing projects. If you find these lessons valuable, consider joining. .chanceA ZookAaron BinnsAda CohenAdam CedroneAdam Dřínekaeroeng15Alan SteinAlbin EgasseAlex Alex HackmanAlexandru IrimieaAlexis OlsonAli YahyaAljoscha SchulzeAlon AmitAlvin KhaledAman KarunakaranAndrea Di
4次元の数 ｢四元数｣の見た目
この動画は3Blue1Brownの動画を東京大学の学生有志団体が翻訳・再編集し公式ライセンスのもと公開しているものです。 チャンネル登録と高評価をよろしくお願いいたします。 日本語版Twitter https://twitter.com/3B1BJP 元チャンネル（英語） https://www.youtube.com/c/3blue1brown 元動画（英語） https://youtu.be/d4EgbgTm0Bg ---------------------------------------- 英語版翻訳元チャンネルの支援 https://www.patreon.com/3blue1brown アニメーションはmanimで作られています https://github.com/3b1b/manim 英語版公式ソーシャルメディア Webサイト: https://www.3blue1
Mathematics for the adventurous self-learner | Neil Sainsbury
For over six years now, I've been studying mathematics on my own in my spare time - working my way through books, exercises, and online courses. In this post I'll share what books and resources I've worked through and recommend and also tips for anyone who wants to go on a similar adventure. Self-studying mathematics is hard - it's an emotional journey as much as an intellectual one and it's the k
この動画は3Blue1Brownの動画を東京大学の学生有志団体が翻訳・再編集し公式ライセンスのもと公開しているものです。 チャンネル登録と高評価をよろしくお願いいたします。 近年さまざまな分野で成果を出しているニューラルネットワーク。神経細胞を模したニューロンの多層構造による深層学習（ディープラーニング）の仕組みについてのシリーズの第一回です。 誤字訂正 14:16 バイアスのベクトルの最後の添え字はnではなくkです 編集 シリーズ第1回のみ英語版で赤緑の色分けになっている箇所があり、日本語版では青緑の色分けに変更しています。 線形代数シリーズ https://youtube.com/playlist?list=PL5WufEA7WHQGX7Su06JzbPDXUQGOd0wlq&si=dnM07l6OnnAP6Phs Michael Nielsenの本 https://goo.
Examining the design of interactive articles by synthesizing theory from disciplines such as education, journalism, and visualization. Computing has changed how people communicate. The transmission of news, messages, and ideas is instant. Anyone’s voice can be heard. In fact, access to digital communication technologies such as the Internet is so fundamental to daily life that their disruption by
皆さん、こんにちは。データコースのDaichiです。今日はAdvent Calendarの24日目を迎えており、いよいよ残り1日となりました。ちなみに、何の因果か、私は2年連続で24日の担当となってしまいました（笑）。今年も25日の方の前座として頑張っていきたいと思います。 自己紹介 改めましてDaichiと言います。理科大に通う3年生で、主に人工知能の勉強をしています。PGは今年で3年目で、案件は三つぐらいやってた気がします。趣味はらーめん(家系ばっかり)、飲み会（酒というより雰囲気が好き）、ネット小説(最近シャンフロが熱い)、アニメ(呪術、メイドインアビス、ワートリ)、バスケ(フリースローが好き。体育館でシューティングしてるときずっと打ってる)などです。 導入 今回は、精密なアニメーションが作成できるライブラリ"Manim"について紹介します。Manimは、MITの数学教授であるGra
【画像】この、実業家森岡氏による“数学を勉強したほうがいい理由”が納得だと話題‥‥文系ぼく「変数‥‥🤔？」 : ライフハックちゃんねる弐式
2021年11月30日 【画像】この、実業家森岡氏による“数学を勉強したほうがいい理由”が納得だと話題‥‥文系ぼく「変数‥‥🤔？」 ツイートする 30コメント ｜2021年11月30日 11:30｜仕事・勉強｜学問｜Editタグ ：数学 PuANDA@shoichirosm森岡さんによる「数学を勉強したほうがいい理由」。 「定数と変数」の話は、めちゃくちゃ同意なのだが果たしてどれだけの人に伝わるか。 https://t.co/9GrZ8Ghc212021-11-28 14:52:10 PuANDA@shoichirosm森岡毅さんの書籍は以下の２つがおすすめ。マーケター以外の人は①から読む方がいいです。 ①ＵＳＪを劇的に変えた、たった１つの考え方 https://t.co/WlzPyQHt7b ②確率思考の戦略論 USJでも実証された数学マーケティングの力 https://t.co/4S
Jan. 2020
Audio Circuit and Visual Circuit 2020-02-01 [Sat] 09:04 So I've been reading this article and probably equally mind-brown as everyone else. I am one who definitely doesn't have an internal (auditory) monologue, and it's shocking to find out that many people do. Most of my thought process is probably modelled as a comic strip, or a sequence of manga-esque pictures that describe events in chronologi
Inside YouTube On YouTube’s recommendation system By Cristos Goodrow, VP of Engineering At YouTube Sep 15, 2021 – minute read When YouTube’s recommendations are at their best, they connect billions of people around the world to content that uniquely inspires, teaches, and entertains. For me, that means diving into lectures exploring the ethical questions facing technology today or watching highlig
Solution: https://youtu.be/jsYwFizhncE Even prettier solution: https://youtu.be/brU5yLm9DZM Help fund future projects: https://www.patreon.com/3blue1brown An equally valuable form of support is to simply share some of the videos. Special thanks to these supporters: http://3b1b.co/clacks-thanks New to this channel? It's all about teaching math visually. Take a look and see if there's anything yo
情報管理LOGの@yoshinonです。 以前やって好評だったので、定期的にやりたいと思っているTwitterブックマーク晒しです。個人的にも棚卸しになるので、楽しいのですよね。というわけで、コロナ疲れの癒やしになるかどうか分かりませんが、気軽に流し読みしてみてください。と言いつつ、コロナウィルスの関係のツィート多めなんですけどね。 パンフがまたカッコイイ！ pic.twitter.com/L7oculsafW — 虚淵玄 (@Butch_Gen) January 28, 2020 パンフは、格好良いのだけど、Twitterブックマーク上でつく文字がかっこ悪いというギャップ感が凄まじいツィートでした。どうやら、Twitterブックマークアプリ上で写真を撮影し、コメントを付けるとこのような感じになるみたいです。せめてフォントなんとかならないのかと…笑。 そういうわけで、便乗してこんな記事を書
A primer on exponential and logistic growth Help fund future projects: https://www.patreon.com/3blue1brown An equally valuable form of support is to simply share some of the videos. Special thanks to these supporters: http://3b1b.co/covid-thanks Home page: https://www.3blue1brown.com Excellent visualization of this kind of growth from Minutephysics and Aatish Bhatia: https://www.youtube.com/watc
Chapter 1 ベクトル | 線形代数のエッセンス
この動画は3Blue1Brownの動画を東京大学の学生有志団体が翻訳・再編集し公式ライセンスのもと公開しているものです。 チャンネル登録と高評価をよろしくお願いいたします。 訂正・補足 スカラーの語句説明の直前に「スケールするもの」と言っているためscale→scalarと語が派生したように聞こえてしまっているかもしれませんが、どちらの語もラテン語のscalaris (scala)が語源ですので訂正・補足いたします。「スカラー」と「スケール」の語源が同じであることから自然に定数倍の考えに印象の道筋を繋げていただけると良いと思います。 Chapter 2 → https://youtu.be/6j-K9o8Bvh8 日本語版Twitter https://twitter.com/3B1BJP 元チャンネル（英語） https://www.youtube.com/c/3blue1brow
なんで球の表面積って円の面積の4倍なの？
この動画は3Blue1Brownの動画を東京大学の学生有志団体が翻訳・再編集し公式ライセンスのもと公開しているものです。 チャンネル登録と高評価をよろしくお願いいたします！ 補足１ 「これは本質情報ですが」は元の動画では"Pro Tip"で、これは「ゾンビを倒すには死ぬまで撃つ」のような半ばジョーク的なアドバイスで使う言葉です。つまり100%真面目な文脈ではないです。 補足２ Proof 2について英語ですがRedditの投稿があるのでコメント欄と共にぜひご活用ください。 https://www.reddit.com/r/3Blue1Brown/comments/a2gqo0/but_why_is_a_spheres_surface_area_four_times_its/ 補足３ 7分13秒あたりの分子分母が逆なのではというご指摘については、これはスケールダウンのファクターなのでこ
Home - manim documentation
Manim’s documentation¶ Manim is an animation engine for explanatory math videos. It’s used to create precise animations programmatically, as seen in the videos at 3Blue1Brown. And here is a Chinese version of this documentation: https://docs.manim.org.cn/
Differentiable programming has been a hot research topic over the past few years, and not only due to the popularity of machine learning libraries like TensorFlow, PyTorch, and JAX. Many fields apart from machine learning are also finding differentiable programming to be a useful tool for solving many kinds of optimization problems. In computer graphics, differentiable rendering, differentiable ph
Simulating an epidemic
Experiments with toy SIR models Help fund future projects: https://www.patreon.com/3blue1brown An equally valuable form of support is to simply share some of the videos. Special thanks to these supporters: http://3b1b.co/sir-thanks Home page: https://www.3blue1brown.com Awesome fan-made interactives: https://prajwalsouza.github.io/Experiments/Epidemic-Simulation.html https://learningsim.itch.io
Spinning objects have strange instabilities known as The Dzhanibekov Effect or Tennis Racket Theorem - this video offers an intuitive explanation. Part of this video was sponsored by LastPass, click here to find out more: https://ve42.co/LP References: Prof. Terry Tao's Math Overflow Explanation: https://ve42.co/Tao The Twisting Tennis Racket Ashbaugh, M.S., Chicone, C.C. & Cushman, R.H. J Dyn D
そのYouTubeチャンネルの動画作りに使われているアニメーションエンジンがPythonのライブラリとして公開されている↓ Manim: Mathematical Animation Engine Manimは、正確なプログラマティックアニメーションのためのエンジンであり、数学の解説ビデオを作成するために設計されています。 Manimには2つのバージョンがあることに注意してください。 このリポジトリは、3Blue1Brownの作者がアニメーション動画作成のために始めた個人プロジェクトで、動画固有のコードはこちらから入手できます。 このリポジトリを2020年に開発者グループがフォークし、現在のコミュニティエディションとなりました。こちらはより安定し、より適切にテストされ、コミュニティの貢献に迅速に対応し、より親しみやすく始められることを目標としています。詳細はこちらのページを参照してください
Attention in transformers, visually explained | Chapter 6, Deep Learning
Demystifying attention, the key mechanism inside transformers and LLMs. Instead of sponsored ad reads, these lessons are funded directly by viewers: https://3b1b.co/support Special thanks to these supporters: https://www.3blue1brown.com/lessons/attention#thanks An equally valuable form of support is to simply share the videos. Demystifying self-attention, multiple heads, and cross-attention. Inst
How can we develop transformative tools for thought? Part of the origin myth of modern computing is the story of a golden age in the 1960s and 1970s. In this story, visionary pioneers pursued a dream in which computers enabled powerful tools for thought, that is, tools to augment human intelligence E.g., Douglas Engelbart, Augmenting Human Intellect: A Conceptual Framework (1962).. One of those pi
Functions are Vectors
Conceptualizing functions as infinite-dimensional vectors lets us apply the tools of linear algebra to a vast landscape of new problems, from image and geometry processing to curve fitting, light transport, and machine learning. Prerequisites: introductory linear algebra, introductory calculus, introductory differential equations. This article received an honorable mention in 3Blue1Brown’s Summer
トポロジーって何が面白いの？ 美しすぎる数学の問題
この動画は3Blue1Brownの動画を東京大学の有志団体が翻訳・再編集し公式ライセンスのもと公開しているものです。 チャンネル登録と高評価をよろしくお願いいたします！ ※翻訳上今回難しかった点を補足 「異なる2つの2点のペア」 は元の動画では"two distinct pairs of points"です。 ペアといえば2点のペアなのは当たり前なのですが、「2点の」が無いと 「異なる2点のペア」となり、「異なるペア」であることが分からなくなるためこの表現になりました。 「マッピング」、「一致させる」、など "mapping"には数学の用語としての写像という意味がありますが、この動画は高度な数学的知識がない中学生や高校生でも理解できることを目指しているため「写像」という語彙を避けました。 Music by Vincent Rubinetti Download the music on
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ChatGPTなど数々の高性能AIを生み出した仕組み「Attention」についての丁寧な解説ムービーが公開される
GPTとは何か Transformerの視覚化 | Chapter 5, Deep Learning
Pythonで美しい動画を作ろう - Qiita
深層学習の仕組み, 勾配降下 | Chapter 2, 深層学習（ディープラーニング）
How To Tell If We're Beating COVID-19
Why do colliding blocks compute pi?
Solving Wordle using information theory
myFourierEpicycles.
ニューラルネットワークの仕組み | Chapter 1, 深層学習（ディープラーニング）
Communicating with Interactive Articles
精密なアニメーションが作成できるライブラリ"Manim"について紹介！！
On YouTube’s recommendation system
The most unexpected answer to a counting puzzle
ここ最近Twitterブックマークに追加したツィートを晒すよ（2020年4月版）
Exponential growth and epidemics
Differentiable Programming from Scratch
The Bizarre Behavior of Rotating Bodies
Manim：Pythonで使える数学アニメーションライブラリ
How can we develop transformative tools for thought?