走行動画を説明するLLMを作成し、80台のGPUで分散並列学習させた話

テクノロジーカテゴリーの変更を依頼記事元:

zenn.dev/turing_motors

40 usersがブックマークコメント

コメント

3

記事へのコメント3件

注目コメント
新着コメント

cvtbgspuda がんばってほしい

2023/07/27 リンク

sys-bio みんな大好きBLIP2の動画対応！自動運転とも絡めてて面白い！

2023/07/27 リンク

knok データセットは海外の運転ドメイン限定なのか

2023/07/27 リンク

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

アプリのスクリーンショット

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

関連記事

走行動画を説明するLLMを作成し、80台のGPUで分散並列学習させた話

3行でまとめると LLM分散学習ハッカソンに参加し、Vision-Languageモデルの一つであるBLIP2のHuggingFac... 3行でまとめると LLM分散学習ハッカソンに参加し、Vision-Languageモデルの一つであるBLIP2のHuggingFaceモデルを拡張して動画からテキスト生成するVideoBLIPを作成しました。ソースコードはGithubで公開しています。運転映像に対する説明文章を学習に用いてVideoBLIPの学習を行い、運転映像を説明するモデルを作成しました。（以下のように運転映像に対して説明文が出力されます）学習を高速化するためにマルチノードで学習を行えるようにし、実際にABCIのGPU80台を使って分散学習を行い、4GPUで行った場合の20倍の計算速度が実現できました（Strong Scaling!）分散並列学習にはDeepSpeedを用いました。はじめに Brain Researchチームで自動運転AIを開発している棚橋です。Brain Researchチームではレベル5の完

ブックマークしたユーザー

techtech05212024/06/13
satojkovic2023/08/14
ya--mada2023/08/03
yuiseki2023/07/28
misshiki2023/07/27
midas365452023/07/27
kjw_junichi2023/07/27
cvtbgspuda2023/07/27
sys-bio2023/07/27
trycycler2023/07/27
tana0052023/07/27
knok2023/07/27
mikage0142023/07/27
unfini2023/07/27
forest10402023/07/27
masayuki-as2023/07/27
nitamago_monster2023/07/27
ugt262023/07/27

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

設定を変更しましたx