• 回复
  • 收藏
  • 点赞
  • 分享
  • 发新帖

各位大侠:仪器设备的精度怎么理解

比如一台万用表,6 1/2位(22bits)分辨率,是什么一个概念呢?
全部回复(7)
正序查看
倒序查看
2006-09-14 21:31
精度同分辨率概念不同. 精度是指测量值跟实际值之差.差越小,精度就越高.
分辨率是对一个物理量分辨的程度. 如6 1/2表量5V时,可以读出05.00000V.可以分辨出0.01mV. 22bits应该是指分辨的台阶可以达到2的22次方(4194034),对一个5V信号能分辨出5V/4194034=1.19uV
0
回复
2006-09-15 11:54
@deep_thought
精度同分辨率概念不同.精度是指测量值跟实际值之差.差越小,精度就越高.分辨率是对一个物理量分辨的程度.如61/2表量5V时,可以读出05.00000V.可以分辨出0.01mV.22bits应该是指分辨的台阶可以达到2的22次方(4194034),对一个5V信号能分辨出5V/4194034=1.19uV
1/2位表示什么意思呢?
0
回复
sjzzgb
LV.4
4
2006-09-16 08:46
@kefeng_keke
1/2位表示什么意思呢?
就是表显的第一位只能是1,而其他后面6为可以是0-9任意一位
0
回复
2006-09-16 11:55
@sjzzgb
就是表显的第一位只能是1,而其他后面6为可以是0-9任意一位
第1位也可以是0, :)
0
回复
2006-09-16 13:40
@deep_thought
第1位也可以是0,:)
不过现在标准的术语里面已经没有“精度”这个词.
0
回复
2006-09-17 11:28
@风清扬老鹰
不过现在标准的术语里面已经没有“精度”这个词.
是的,标准上现在叫"准确度"了吧, 不过,还是叫"精度"比较顺口.
0
回复
2006-09-17 11:29
@deep_thought
是的,标准上现在叫"准确度"了吧,不过,还是叫"精度"比较顺口.
就好象"电位差"的叫法, 我们一般叫"电压".
0
回复