![](https://cdn-ak-scissors.b.st-hatena.com/image/square/c49184db50e907ccdfe1e1e07fbd8585f626eaa0/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9RGF0YWZsb3clRTMlODIlOTJQeXRob24lRTMlODElQTclRTQlQkQlQkYlRTMlODElQTMlRTMlODElQTYlRTMlODElODQlRTMlODIlOEIlRTMlODElQThidWNrZXQlRTQlQkQlQkYlRTclOTQlQTglRTklODclOEYlRTMlODElOEMlRTglODIlQTUlRTUlQTQlQTclRTUlOEMlOTYlRTMlODElOTclRTMlODElQTYlRTMlODElOEElRTklODclOTElRTMlODElOEMlRTYlQkElQjYlRTMlODElOTElRTMlODIlOEImdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPWQ5MzYzYTc3OWQ3NGUwY2Q0ZDU3ZmU4Y2JkMzU1MDU2%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDBnZWNrbzY1NSZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9YTg5N2FmYmJkNTQzZGRiYTMyYTQ1M2QxZTdhZjQ5MDI%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3D362666f9818ff71da183d534dbc6010e)
エントリーの編集
![loading...](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/common/loading@2x.gif)
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
DataflowをPythonで使っているとbucket使用量が肥大化してお金が溶ける - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
![アプリのスクリーンショット](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/entry/app-screenshot.png)
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
DataflowをPythonで使っているとbucket使用量が肥大化してお金が溶ける - Qiita
要約 PythonでDataflowを実行すると、実行完了後に GCSの temp_location のファイルが消えない不具合が... 要約 PythonでDataflowを実行すると、実行完了後に GCSの temp_location のファイルが消えない不具合がある Python実装のみの不具合(Javaで実行したときは勝手に消えるらしい) 毎日数十GBのBigQueryデータ投入タスクを行なっていると、すごい勢いでGCSの使用量が増え、多額の請求が発生する 今のところ、GCS bucket lifecycleでデータを自動削除するくらいしか回避方法がない 発生した問題 GCPのDataflow(Python)を使って、毎日数十GBのデータをBigQueryに投入するジョブを走らせていたところ、GCSの請求金額が一日あたり$7/日ずつ増えている事に気が付きました。 GCS bucketを調査すると、Dataflowで使っているbucketの使用量が爆速で増えてました。 220GB/日のペース 原因 原因は、Datafl