タグ

ブックマーク / takaishikawa42.hatenablog.com (2)

  • Kaggle API とシェルスクリプトで Kaggle のデータ周りを簡単に操作したい - Tak's Notebook

    はじめに 事前準備 ディレクトリ構成 コンペデータセットのダウンロード コンペにサブミット 自前データセットをアップロード コードをアップロード 終わりに はじめに Kaggle API を使うと便利にアレコレをダウンロードしたりアップロードしたりできますが、コマンドオプションが覚えられなかったり、設定をアレコレ書くのが難しいので 出来る限り シェルスクリプトを使って簡単にしたものを整理しておこうと思い、書きました。 事前準備 Kaggle API が使える前提です。詳細はドキュメントを参照してください。 github.com ディレクトリ構成 大体以下のようになっている前提で以下のスクリプトを書いています。 . ├── input │ └── tabular-playground-series-jan-2021 ├── kaggle-notebook.py ├── kernel-meta

    Kaggle API とシェルスクリプトで Kaggle のデータ周りを簡単に操作したい - Tak's Notebook
  • joblib と pickle の比較 - Tak's Notebook

    これは何か? pickle でファイル保存できるのとほぼ同じ書き方で保存できる joblib.dump/joblib.load について調べた。 pickle と joblib の比較について。compress を使うと joblib の方がファイルサイズが小さくなる。読み込み速度も変わるかもしれない。 joblib の compress の値は3程度が良いと言われているが、実際調べてると大体3くらいでちょうどいいことが確認できた。 背景 pickleの代わりにjoblibを使って永続化する - 計算物理屋の研究備忘録 joblib.dump/load は pickle とほぼ同じ使い方?ただし compress オプションを指定しないと圧縮してくれないので、圧縮レベルを3くらいにするのがよいとか。 https://t.co/TAvMnIlLO5— Tak (@takaishikawa42

    joblib と pickle の比較 - Tak's Notebook
  • 1