UUT Auflösung stimmt nicht {erledigt}
4 years ago
Hallo zusammen,
Ich habe folgendes Problem mit einer Prozedur:
Bei folgendem Befehl erhalte ich bei Eingabe von z.B. -70.1 ein Ergebnis mit 2 Nachkommastellen.
1.001 ASK- R Q N P J F W
1.002 ASK+ K U
1.003 5520 -70.0degC TOL _K TC 2W
Eigentlich dürfte es doch nur ein Ergebnis mit einer Nachkommastelle geben, da ich die Vorgabe ja auch nur mit einer Nachkommastelle mache.
Ich habe dann mal "TSET UUT_RES = .1" vorne angestellt und so probiert die Auflösung "hart" vorzugeben. Das Ergebnis ist aber leider das gleiche.
Wo ist der Fehler?