Pytorch Lightningを使用したBERT文書分類モデルの実装 - Qiita

はじめに PytorchでのBERTの分類モデル実装時に、コードの長さと使いまわしのしにくさを感じていたところ、Pytorch Lightningというフレームワークを知ったので実装してみました。 ※Pytorch Lightningとは何か？については下記の記事が分かりやすく、参考にさせて頂きました。 PyTorch 三国志（Ignite・Catalyst・Lightning） Google Colaboratoryで実行できるnotebookもgitで公開していますので、よろしければ参考にして頂き、間違っている点などあれば是非ご指摘いただけますと幸いです。 pytorch_lightning_text_classification.ipynb 環境 Google Colaboratory 各種インポート %%capture !pip install transformers==3.5.