タグ

2015年11月3日のブックマーク (2件)

  • その17 ビット演算あれこれ

    int count8bit(unsigned char v) { unsigned count = (v & 0x55) + ((v >> 1) & 0x55); count = (count & 0x33) + ((count >> 2) & 0x33); return (count & 0x0f) + ((count >> 4) & 0x0f); } int count16bit(unsigned short v) { unsigned short count = (v & 0x5555) + ((v >> 1) & 0x5555); count = (count & 0x3333) + ((count >> 2) & 0x3333); count = (count & 0x0f0f) + ((count >> 4) & 0x0f0f); return (count & 0x00ff)

  • DNL(微分非直線性誤差)とINL(積分非直線性誤差)

    DNL(微分非直線性誤差)とINL(積分非直線性誤差) DNLとINLは、ADコンバータ、もしくはDAコンバータの精度や誤差に関する指標のこと。DNLは「differential non-linearity」、INLは「integral non-linearity」の頭文字を取った言葉で、日語ではそれぞれ微分非直線性誤差、積分非直線性誤差と訳される。ADコンバータやDAコンバータには、さまざまな誤差の要因がある。その中で、利得誤差やオフセット誤差は、回路的な調整によって実質的にゼロにすることが可能だ。しかし、DNLとINLといった非線形性誤差は、AD/DA変換の処理後に補正することはできず、最後まで残ってしまう。従って、AD/DAコンバータの性能を決める極めて重要な特性だと言える。 ここで、ADコンバータにおけるDNLとINLの詳細を解説する前に、最小有効ビット(LSB: least s

    DNL(微分非直線性誤差)とINL(積分非直線性誤差)
    trapple
    trapple 2015/11/03
    DNL(微分非直線性誤差)とINL(積分非直線性誤差)