気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
fukabori.fmエントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント2件
- 注目コメント
- 新着コメント
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
107. LLMをゼロから作るということ w/ Takahiro Omi | fukabori.fm
MP3ファイルをダウンロード 内容紹介 ストックマークの近江さんをゲストに、大規模言語モデルをゼロから... MP3ファイルをダウンロード 内容紹介 ストックマークの近江さんをゲストに、大規模言語モデルをゼロから作る方法、学習のデータセット、モデルアーキテクチャ、学習環境への取り組みなどについて語っていただきました。 出演者 話したネタ どのような大規模言語モデルと作ったのか？特徴は何か？ データセットに何を使ったのか？ 日本語と英語とのバランスは？ 最終的なToken数は？ 事前学習モデルを作りたいとして、何から考えるのか？ ノイズのクリーニングと、その方法 今回活用したモデルアーキテクチャ(Llama) 前回のアーキテクチャは GPT-NeoX 今回の学習環境は？ AWS Trainum 32コア x 16ノード 学習にかかった時間は？ 学習時に大変だったこと・上手くいかなかったことは？ 学習中のチェックポイントとは何か？ なぜ、Token生成が速いのか？ 手元でLLMを動かすときの一番のネッ
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
fukabori.fm
fukabori.fm
fukabori.fm
fukabori.fm
anond.hatelabo.jp
www.itmedia.co.jp
mainichi.jp
dennou319.fanbox.cc
qiita.com/ryosuke_ohori
note.com/google_gemini
www.asahi.com
anond.hatelabo.jp
speakerdeck.com/takonda
techplay.jp
yamaneko4820130803.blog.fc2.com
www.itmedia.co.jp
www.nikkansports.com
sekishoichi.thebase.in
ameblo.jp/hamakiyo-2912
2023/11/16 リンク