タグ

関連タグで絞り込む (0)

  • 関連タグはありません

タグの絞り込みを解除

pythonと符号に関するkoma_gのブックマーク (1)

  • 夏休みの工作 ~pythonにおけるセンサ出力値のビット演算~

    大した話ではないけど半日詰まったのでメモ。 I2Cなんかから1バイト×2(Hbit、Lbit)のような形でデータを受け取って数値に変換するときの注意点。 例: Hbyte : 11101110 Lbyte : 00011111 →2つあわせて 1110111000011111 を作ってから数値に変換する。Hの方を左に8bitシフトしたり256を掛けたりしてから足す(あるいはHとLのorをとる) 特にこのあたりでは問題は無いが、2の補数を取って負の値を出したいときpythonでは正常に処理できない場合がある。 例: H : 10000000 L : 11001100 あわせて 1000000011001100(符号付10進数で-32564) となる。この値をそのままpythonで扱うとpythonの中では32972として扱われる(符号なし扱いのため)。何bitの符号付整数か(どのビットが1だ

  • 1