データセットはWikipedia, CC100, OSCAR, mC4。アーキテクチャのコードベースはGPT-neoX

knokknok のブックマーク 2022/07/28 13:43

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

ABEJAで作った大規模GPTモデルとその道のり - ABEJA Tech Blog

    1. はじめに 2. そもそもGPTとは?? 3. ABEJAで作ったGPTモデルについて 3.1 モデルサイズ 3.2 データセット Wikipedia CC100 OSCAR mC4 3.3 参考にしたコード 3.4 モデルの学習 せっかくここまで育てたモデルが・...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう