DC精度指標是一種用于描述測量設備最壞情況與理想線性響應的區(qū)別。它包含偏移誤差和增益誤差。

在下圖中，黑色斜線代表理想的傳輸函數，紅色斜線代表假想的數據采集前端的測量響應。

為了表達黑色斜線和紅色斜線的不同，起初我們設定計算每一條曲線的公式形式為y = mx + c. 黑色斜線的斜率為（1.0 V/1.0 V）. 因為黑色斜線穿過坐標原點，所以偏移應該為0.因此公式變?yōu)椋?/span>

y_IDEAL = 1.0x + 0

紅色斜線的斜率為（1.0 V/（1.35 V – 0.1 V））= 0.8 V/V,偏移為-0.08 V.因此它的公式可以表示為：

y_ADC = 0.8x – 0.08

現在我們擁有足夠的信息計算增益和偏移誤差。偏移誤差為測量偏移（0.8 V）和理想偏移（0V）之差：

OE = –0.08 V–0 V = –0.08 V

增益誤差為測量斜率（0.8 V/V）和理想斜率（1.0 V/V）相差的百分比：

GE= (0.8 – 1.0) / (1.0) = –0.2 或 –20%

我們所生產的每一批示波器擁有一些列不同的增益和偏移誤差但是我們確保這些偏差落在一個指定的范圍內。當測試完大量的示波器如上述示例，我們很可能發(fā)現它們中的大部分擁有偏移誤差在-1 V和+1 V范圍內，且增益誤差落在-10% 到 +10%之間。所以我們會發(fā)布如下指標：

DC 精度: ±1 V ± 滿刻度的10%

Pico示波器的偏移誤差指標，所指定的范圍在±200 μV 到 ±500 μV之間。增益誤差指標位于滿刻度的±0.25% （16-bit示波器）到 ±3%（8位示波器）。有些型號沒有分開的增益和偏移誤差指標但會給出一個包含增益和偏移誤差的百分數值。