タグ

2018年11月15日のブックマーク (4件)

  • 【python】pythonでメモリ不足になったときにすること - 静かなる名辞

    最終更新:2018/11/26 はじめに pythonはLLですが、なぜかメモリを何十GBも消費するような(一般的なPCのリソースからすれば)大規模なデータ分析に広く使われています。このようなデータ分析では、往々にしてメモリ不足が生じ、それなりに配慮してプログラムを書かないとそもそもプログラムが走らない、MemoryErrorが出るといった事態が発生しがちです。 そういうときにやるべきことをつらつらと書いていきます。なお、下の方に行くほど邪悪度()が増していきます。 目次 はじめに 対策 メモリを増設する・システムのswap領域を増やす multiprocessingを使っているなら使うのをやめる、あるいはプロセス数を減らす 要らないデータはGCに回収させる リストは積極的にnumpy配列にする 疎行列型配列を使用する 32bitにする 配列処理は破壊的代入で行う numpyの機能に頼る

    【python】pythonでメモリ不足になったときにすること - 静かなる名辞
    odmishien
    odmishien 2018/11/15
    卒論書くよ
  • この処理Pythonでどう書く? - エムスリーテックブログ

    EF15形は高性能な電気機関車であったが、引き出し性能が蒸気機関車に劣ると誤解されていた。 誤った運転方法により来の性能を引き出せていなかったのである。 (spaceaero2 [CC BY 3.0], ウィキメディア・コモンズより) こんにちは、エムスリー・エンジニアリングG・基盤開発チーム小です。 WEBサイトは RailsやSpringなどの「体部分」だけでは完結しません。レポート作成・データ更新などの細かい処理も必要です。 過去にはこうした用途にはBashがよく使われました。しかし、Bashは落とし穴が多かったり、クラスなどの抽象化機能がなかったりして、規模が大きくなると辛くなります。 そこで、Bashの代替候補に挙がるのがPythonです。エムスリーでもかつてはBashを使っていましたが、現在は新規案件にはPythonを推奨しています。 しかし、実際にPythonで書き直そ

    この処理Pythonでどう書く? - エムスリーテックブログ
    odmishien
    odmishien 2018/11/15
  • “マッチョ”な弥生人 その正体は!?|NHK NEWS WEB

    弥生時代、女王・卑弥呼が治めた「邪馬台国」があったという説もある九州北部。ことし8月、長崎県佐世保市の離島、高島で古代史の研究者を驚かせるものが発掘されました。それは、下半身に比べ上半身が異常に太く、驚くほど“マッチョ”な体型をしていた弥生時代の人骨です。“マッチョ”な理由を探ってみると、古代人たちの知られざる営みが見えてきました。(福岡放送局ディレクター 佐々木健)

    “マッチョ”な弥生人 その正体は!?|NHK NEWS WEB
    odmishien
    odmishien 2018/11/15
    フッキだ
  • Hey! Say! JUMP に変な指定がある – jaguchi log

    どうも Hey! Say! JUMP の a は一階建ての字形じゃないとダメっていう意味不明な決まりがあるみたいで テレビ朝日は heysayjump_a.gif を挿入させられるし: ジャニーズ公式は専用の span class 作ってるし: テレビ東京は Comic Sans を駆使してる:

    Hey! Say! JUMP に変な指定がある – jaguchi log