タグ

2012年10月23日のブックマーク (2件)

  • 原因調査用Linuxコマンド | 外道父の匠

    サーバの動作に異常が発生した際に原因を探るためのLinuxコマンドで、自分用のメモです。 全てmanとかググったら出てくるので説明は適当です。思いついたら後で追記していくかもです。 対象はDebian Squeezeになります。 全てパッケージインストールできるもので、パッケージ名は [in packagename] としてあります。 各所よりコメントありがとうございます。 良さ気なコマンドは追記していきます。 <追加したコマンド> * telnet (+コメント wget, netcat) * arp (+コメント arpwatch) * pstree * fdisk コメントに gdisk * host, dig * watch * reboot

    原因調査用Linuxコマンド | 外道父の匠
  • CloudBB » *Amazon EMRとmapred.max.split.size

    mapred.max.split.sizeは、Hive処理時にAmazon S3に格納されているノーマルのビックファイルに対して有効に働く。mapred.max.split.sizeは、Hive処理時に1つのMapで処理するブロックサイズを決める。つまり、Total Map数は、「ファイルサイズ/mapred.max.split.size」で決まり、該当のHadoopクルスタが持っているMapキャパシティの限度内で並列処理が可能である。 Mapキャパシティ=1コアノード当たりのMap数×コアノード数 Total Map数=ファイル数+(ファイルサイズ/mapred.max.split.size) Runing Map数=Total Map数/Mapキャパシティ *mapred.max.split.size=67108864(64MB、default) mapred.max.split.si

    pandazx
    pandazx 2012/10/23