Das TOLERANCE-Feld
adminZuletzt aktualisiert: 15.06.2026
metcaltoleranztolerance
Das TOLERANCE-Feld in MET/CAL definiert, wie stark der gemessene Wert (DUT-Wert) vom Sollwert oder Messbereich abweichen darf, um noch innerhalb der Spezifikation zu liegen. Es bietet mehrere Formate, um Toleranzen präzise zu definieren.
Struktur
- Länge: bis zu 13 Zeichen, inklusive Leerzeichen.
- Kombinationen: bis zu drei Einträge kombinierbar, z. B.
1% 0.05U P%.
Unterstützte Einträge
| Eintrag | Beschreibung |
|---|---|
% |
Prozent des Anzeigewerts (DUT-Wert). |
/ |
Prozent des Messbereichs (RANGE-Feld). RANGE darf nicht leer oder Autorange sein. |
P% |
ppm (parts per million) des Anzeigewerts. |
P/ |
ppm des Messbereichs (RANGE-Feld). |
U |
Absolute Toleranz in den Einheiten des Nominalwerts. Bei dBm wird dB angenommen. |
Regeln und Hinweise
- Vorzeichen: Eine Toleranz ohne Vorzeichen gilt als ± (
1%=+1% -1%). Ein vorangestelltes+oder-gibt die Richtung an, z. B. erlaubt+0.5Unur positive Abweichungen. - Register: Toleranzen können feste Werte oder Register nutzen (z. B. M1, M2):
TOL M1% M2U. - Unzulässig:
/(% of range) bzw.P/sind nicht erlaubt, wenn RANGE leer oder Autorange ist. In Setup-Schritten (MOD4 = S) und bei eingerückten Anpassungsschritten sind Toleranzen nicht zulässig. - Dynamisch: Fehlt eine direkte Angabe, kann die Toleranz aus einem vorher definierten
TOL-Befehl übernommen werden. - dBm → dB: Bei Nominalwerten in dBm gilt die absolute Toleranz als dB, z. B.
TOL 0.1Uentspricht ±0,1 dB.
Beispiele
Einfache Angaben:
TOL 1% ±1% des Anzeigewerts
TOL 0.05U ±0,05 Einheiten der Nominaleinheit
TOL 1% 0.05U P% kombiniert
Mit Registern:
MATH M1 = 2
MATH M2 = 0.01
TOL M1% M2U
Eingabe durch den Bediener:
MEMI Geben Sie die prozentuale Toleranz ein:
MATH M1 = MEM
MEMI Geben Sie die absolute Toleranz ein:
MATH M2 = MEM
TOL M1% M2U
Übungsbeispiele
| # | Bereich | Erwarteter Wert | Toleranz | in MET/CAL |
|---|---|---|---|---|
| 1 | 6.000 V | 1,5 V | ± 1 % v.M. | 1 % |
| 2 | 6.000 V | 1,5 V | ± 1 % v.B. | 1 / |
| 3 | 6.000 V | 1,5 V | ± 0,1 V | 0.1U |
| 4 | 6.000 V | 1,5 V | ± 2 Digits | 2U |
| 5 | 60.00 V | 9 V | ± (1 % v.M. + 1 % v.B.) | 1 % 1/ |
| 6 | 60.00 V | 9 V | ± (0,7 % v.M. + 2 Digits) | 0.7% 0.02U |
| 7 | 600.0 V | 150 V | ± (0,6 % v.M. + 3 Digits) | 0.6% 0.3U |
| 8 | 600.0 V | 260 V | ± (1,1 % v.B. + 1 Digit) | 1.1/ 0.1U |
| 9 | 1000 V | 800 V | ± (0,7 % v.M. + 2 Digits) | 0.7% 2U |
| 10 | 6.000 V, 50 Hz | 5,6 V | ± (0,8 % v.M. + 1 Digit) | 0.8% 0.001U |
| 11 | 60.00 V, 400 Hz | 34 V | ± (2 % v.M. + 3 mV) | 2% 0.003U |
| 12 | 6.000 A | 0,9 A | ± (0,2 % v.M. + 4 Digit) | 0.2% 0.004U |
| 13 | 600.0 Ω | 500 Ω | ± (0,2 % v.M. + 2 Digit), REL Δ | 0.2% 0.2U |
Hinweis: Für Beispiel 13 muss vor dem 5520-FSC ein
DISP-Befehl an der richtigen Stelle eingefügt werden, ohne dass ein Wert ausgegeben wird.
Zusammenfassung
Das TOLERANCE-Feld bietet maximale Flexibilität, um die Prüfkriterien an die Messung anzupassen – ob feste Werte, dynamische Register oder kombinierte Toleranzen.
