タグ

ブックマーク / yuta0306.github.io (1)

  • Pytorch LightningでTPUを回す on Colab Pro in 2021

    Colab Proでなんとかpytorch-lightningを使ってTPUで実験を回そうと奮闘した結果,得られたベストプラクティス?(怪しい)の共有です. もっといい方法があったら教えてください. ちなみに,現行コンペで動作確認したので,コード全容の公開はないです.すみません. Runtimeは必ずTPUにしてください pytorch-lightningでTPUを使いたいメリット? 黙ってtensorflowを勉強して書けば,それでいいのでしょうが, 普段pytorchを使ってコーディングをしていて,僕の場合pytorch-lightningを好んで使っているので,その延長戦でTPUを使いたいという欲がありました. また,pytorch-lightningは,Trainerクラスをちょろっと書き換えるだけで,CPU/GPU/TPUの変換ができ,マルチGPU等のDDPの処理も自動で書き加え

    Pytorch LightningでTPUを回す on Colab Pro in 2021
  • 1