awsに関するnagaitakeyukiのブックマーク (1)

  • S3のGETリクエストでRangeヘッダーを使う

    S3のGETリクエストでRangeヘッダーを使うNovember 15, 2018 - posted by issei_m 久しぶりの投稿です。 先日とあるプロジェクトで、Amazon S3に保存されているCSVファイルをデータベースにインポートする機能をPHPで作りました。 PHPではCSVを fopen と言う関数を使う事で、ストリームからCSVの行を1行ずつ配列として受け取る事ができます。 さて、今回要件として、CSVファイルは最大数GBまで許容されると言う事と、ジョブは並列で動作するのでローカルディスクにこのデータ全体を一旦DLするのはNG [1] と言う条件がありました。 ローカルディスク上に保存されているファイルであれば fopen で開いたストリームを使って問題なく fgetcsv が処理できますが、このような事情の為、何か良い方法が無いか調べた所、S3のGETリクエストは 

    S3のGETリクエストでRangeヘッダーを使う
  • 1