以组态AI模块时设置积分时间为20ms为例，转换后的二进制数为12位。A-D转换后12位的数值被自动左移3位，左移后未使用的低位则填入“0”，相当于实际的转换值被乘以8。保留了一定的裕量后，最大压力值对应的转换值27648并不代表实际的分辨率，是有“水分”的值。转换值实际的分辨率为12位。
假设某压力变送器的量程为0～100kPa，输出的4～20mA电流被AI模块转换为数字0～27648。计算时选择压力的单位关键是要保证AI模块的原始分辨率不要丢失，也不要过多地保留转换值中的“水分”。2的12次方为4096，计算出来的最大压力值最好接近4096，或者在同一个数量级。
转换后的单位可选0.01kPa，最大值压力100kPa=10000（单位为0.01kPa），和实际的最大转换值4096在同一数量级。
压力值在HMI显示时，显示单位可选kPa，小数点后两位数字。
设AI模块的输出值为N，压力计算公式为
P =（10000 X N）/ 27648