先日、博士（情報学）になりました。学部と大学院をあわせた 9 年間で読んだ情報科学関連の教科書・専門書を思い出を振り返りつつここにまとめます。私は授業はあまり聞かずに独学するタイプだったので、ここに挙げた書籍を通読すれば、大学に通わなくてもおおよそ情報学博士ほどの知識は身につくものと思われます。ただし、特に大学院で重要となる論文を読み書きすることについては本稿には含めておりません。それらについては論文読みの日課についてや論文の書き方などを参考にしてください。 joisino.hatenablog.com 凡例：（半端）とは、数章だけ読んだ場合か、最後まで読んだものの理解が浅く、今となっては薄ぼんやりとしか覚えていないことを指します。☆は特におすすめなことを表します。 学部一年 寺田 文行『線形代数 増訂版』 黒田 成俊『微分積分』 河野 敬雄『確率概論』 東京大学教養学部統計学教室『統計学
松尾研究所、テックブログを開設 エンジニアなど募集中
東京大学大学院でAIを研究する松尾・岩澤研究室とビジョンを共有する企業・株式会社松尾研究所は2月26日、テックブログを開設した。ブログを通じ、知見の社会への還元、ブランディング、仲間づくりを目指すという。 株式会社松尾研究所は、社員とインターン200人を超える組織で、これまでさまざまな企業と協業してきた。アカデミアで生み出された先端技術を産業界につなげ、社会実装をするとともに、そこで得られた知見アカデミアに還元して人材・先端技術を育成することを目指しているという。 東大松尾研はAI界で著名だが、松尾研究所という会社自体は知名度が低いため、テックブログでブランディングを目指す。また、AIの社会実装で得られた知見をブログを通じて社会に還元。リサーチャー・リサーチエンジニア、データサイエンティストといった人材も募っている。 関連記事 生成AIの業界団体「Generative AI Japan」発
大規模言語モデルの事前学習知見を振り返る
はじめに Turing 株式会社のリサーチチームでインターンをしている東京工業大学 横田研究室B4の藤井(@okoge_kaz)です。 2022年11月末にChatGPTがリリースされてから早1年、2023年は大規模言語モデル開発の領域において飛躍の１年となりました。国内でもCyberAgent, PFN, ELYZAを筆頭に3B〜13B程度のモデルが多数公開され、多くの方にとってLLMが身近になった1年であったかと思われます。 Turingでは完全自動運転の実現に向けた研究開発の一環としてLLMに早くから着目し、社内で研究開発を行ってきました。 また、私はLLM-jp 13Bの開発など国内の言語モデル開発に複数関わっている関係上、それらを通じて様々な生きた開発知見を多数得てきました。 そのような中で、実際に手を動かす実働部隊が「公開されている知見」をきちんと理解しておくことの重要性を日々
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
大学で読んだ情報科学関連の教科書 - ｼﾞｮｲｼﾞｮｲｼﾞｮｲ