Zo:仪器端子打开时的测量值。
Zs:端子短路时的测量值。
Zsm:连接到DUT时标准DUT的测量值
Zstd:参考DUT的真实(或预期)值。
Zxm:DUT的测量值。
Zdut:DUT的校正值
zo = -6864107 - 9872402i
zs = -61 + 70i
zxm=555+81i
zsm = 555+ 81i
zdut=((zs-zxm)*(zsm-zo))/((zxm-zo)*(zs-zsm))
数据表都采集好了,就这简单公式我就是写不好你说尴尬不尴尬,搞了好几天还是不行,要是一个档位还好说,档位多了不知道哪个档位计算就溢出了,缩小数据的话又会有的档位不能正确计算,这写数学库比电桥程序麻烦的多,我这定点数计算实在是写的不怎么样。
失败告终,倒在了数值计算数学库脚下 *_*!
|