0. 忙しい方へ 完全に畳み込みとさようならしてSoTA達成したよ Vision Transformerの重要なことは次の3つだよ 画像パッチを単語のように扱うよ アーキテクチャはTransformerのエンコーダー部分だよ 巨大なデータセットJFT-300Mで事前学習するよ SoTAを上回る性能を約$\frac{1}{15}$の計算コストで得られたよ 事前学習データセットとモデルをさらに大きくすることでまだまだ性能向上する余地があるよ 1. Vision Transformerの解説 Vision Transformer(=ViT)の重要な部分は次の3つです。 入力画像 アーキテクチャ 事前学習とファインチューニング それぞれについて見ていきましょう。 1.1 入力画像 まず入力画像についてです。ViTはTransformerをベースとしたモデル(というより一部を丸々使っている)ですが、

大手電機メーカー、パナソニックが揺れている。創業103年目、グループ全体で26万人が働く、日本を代表するものづくり企業だ。しかし、ここ数年、事業売却や撤退の表明が相次いでいる。会社は来年4月に経営トップが9年ぶりに交代する。そして2022年4月には持ち株会社へと移行するという。巨大メーカーは一体どこに向かうのか、取材を進めると根深い課題が横たわっていることが見えてきた。（大阪放送局記者 甲木智和・谷川浩太朗） 格闘家のボブ・サップ氏が金色に輝く巨大なボールを会場に投げ入れ、野太い声で「ディーガ！」と絶叫する。ブルーレイ・DVDの録画再生機の新商品発表会の1シーンだ。会場は明るく、勢いが感じられた。しかし、これは残念ながら最近開かれたものではない。2004年3月、電機業界が“デジタル家電景気”に沸いていたころ、旧松下電器産業が行った記者発表会だ。 かつて薄型テレビやビデオカメラ、冷蔵庫からド

n万回言われてることを書きますね。 それでは聞いてください。 32歳独身女性が贈る、人生への所見 地元の大学出て、地元の硬い企業にとりあえず就職して、旅行や趣味、仕事だってまだまだ選べる。結婚なんてどうでもいいと思ってた20代。 子供も興味なかった。自分を縛るものの一つ、なんなら趣味とかと同列と思ってた。 これ、20代のうちにやりたいことを全部やった人だけが結婚、出産について自分の人生に基づいて選択する権利を得れるんですね。 30歳になって、周りがどんどん結婚していって、お母さんになっていって分かった。 結婚も出産は、具体的な夢のない人の大学進学と同じで、その年齢の人間が非難されない居場所そのものなんだ。 そこに選択は発生するけど、選ばないと多くのものを失ってしまう、そういうもの。 人生に意味を見出せる人間は思ったより少なく、自分はそっち側ではなかった。 自分の人生を自分で面倒見れる人でな