MENU

Pantalla de calibre 0,01mm no es lo mismo que precisión: cómo leer resolución y error del instrumento

※Este blog obtiene ingresos por publicidad de afiliados.

Divulgación de afiliados: Este artículo contiene enlaces de afiliados. Si realiza una compra a través de estos enlaces, podemos ganar una comisión sin costo adicional para usted.

Mena

Hola, soy Mena (@menachite), ingeniero híbrido. ¿Das por hecho que un calibre digital que muestra hasta 0,01mm tiene también una precisión de 0,01mm? En realidad, «hasta cuántas cifras se puede mostrar» (resolución) y «hasta qué punto se puede confiar en esa lectura» (precisión) son dos cosas completamente distintas. Esta vez aclaro esa diferencia, con normas y cifras reales de por medio.

En resumen: la cifra «0,01mm» o «0,05mm» en la pantalla LCD o el nonio de un calibre solo indica hasta qué punto se puede leer con detalle (resolución/división de escala) — no dice nada sobre hasta qué punto se puede confiar en ese valor (precisión, expresada como el error del instrumento). Confundir ambas cosas lleva al error de pensar que «una pantalla de 0,01mm significa que puedo confiar en la lectura hasta 0,01mm».

★Una aclaración antes de empezar: este artículo todavía no se apoya en mediciones de error propias y prácticas, sino en documentación técnica de fabricantes, artículos explicativos especializados y normas publicadas. Un informe de medición práctica está previsto para más adelante. La elección de un calibre concreto (por tipo y franja de precio) se trata en otro artículo; este se centra exclusivamente en el concepto de que «resolución y precisión son cosas distintas».

Índice

Resumen: resolución de pantalla frente a error real

Vamos con la conclusión primero. Pasar de una resolución de 0,05mm a 0,01mm hace que las cifras mostradas sean 5 veces más finas. Pero al comparar el Error Máximo Permisible (EMP) publicado de calibres estándar de cada clase, el de un calibre de clase 0,05mm (aproximadamente ±0,05mm) solo se reduce a unos ±0,02–0,03mm en uno digital de clase 0,01mm — una mejora de 2-3 veces, no de 5 (en formas especiales, como calibres para cable de acero o con gancho, la mejora a veces solo llega a ±0,04–0,06mm, aún menor). Es decir, unas cifras de pantalla más finas no se traducen proporcionalmente en mejor precisión. Esa diferencia es el eje central de este artículo, que se explica en detalle más abajo.

Resolución de pantalla (división de escala)EMP típico publicado (error máximo del instrumento)Otros factores que afectan al error real
0,05mm (analógico/nonio estándar, 150mm)Habitualmente en torno a ±0,05mm para esta claseParalaje (leer la escala en ángulo), fuerza de medición, temperatura
0,01mm (digital estándar, 150mm)Habitualmente en torno a ±0,02–0,03mm para esta clase (formas especiales como calibres para cable de acero o con gancho: ±0,04–0,06mm)Características del sensor, voltaje de la batería, fuerza de medición, temperatura, error de cuantización (±1 dígito, no incluido en el EMP)

Para el usuario habitual: ¿en qué se diferencian realmente «resolución» y «precisión»?

Primero, aclaremos los términos. La «resolución» (división de escala) es la unidad más pequeña que se puede leer en la escala o en la pantalla. Un calibre analógico de nonio típico resuelve 0,05mm o 0,02mm; uno digital típico resuelve 0,01mm. La «precisión», en cambio, está gobernada por lo que suele llamarse error del instrumento: la diferencia real entre el valor mostrado y la dimensión verdadera. Las normas de metrología (en Japón, la JIS B 7507) llaman a esta diferencia «error de indicación», y una especificación publicada como «±0,03mm» se refiere al límite normativo permitido para ese error de indicación: el Error Máximo Permisible (EMP). El error de indicación en sí solo se conoce midiendo de verdad; el EMP es el límite que el fabricante garantiza de antemano. Este artículo usa a partir de aquí, de forma consistente, «límite del error del instrumento (error de indicación) = EMP».

La cifra de resolución es solo uno de los factores del error

Según un artículo técnico de un ingeniero de Mitutoyo publicado en una revista especializada, para un calibre de nonio con división de escala de 50μm (0,05mm), la «incertidumbre debida a la resolución de lectura» resulta matemáticamente en unos 29μm. Eso no es la resolución en sí, sino solo uno de los componentes de error que se derivan de ella. Además, la incertidumbre global de calibración de un calibre estándar (un calibre de nonio de 1000mm o menos) se cita como U=40μm (k=2, incertidumbre expandida — una magnitud propia del proceso de calibración, distinta del error del instrumento o del EMP), y la fuente indica que «la incertidumbre de calibración está limitada por la división de escala». Es decir, la resolución impone en cierta medida un límite a la precisión, pero no es la misma cifra que la precisión en sí. Así que no equipares «número de cifras mostradas» con «precisión» — entiende la resolución simplemente como «la unidad más pequeña que se puede leer».

Comparando instrumentos estándar reales, el EMP no se reduce tanto como las cifras de pantalla

Los calibres analógicos estándar (150mm) con división de escala de 0,05mm suelen publicar un EMP de unos ±0,05mm. Los calibres digitales estándar (150mm) con división de escala de 0,01mm suelen publicar un EMP en el rango de ±0,02–0,03mm, según el fabricante. La resolución de pantalla mejoró 5 veces (0,05mm → 0,01mm), pero el EMP solo mejoró unas 2-3 veces (±0,05mm → ±0,02–0,03mm). Ten en cuenta además que algunos instrumentos de clase 0,01mm con geometría especial —calibres para cable de acero, con gancho, o para profundidad— pueden tener un EMP más amplio, de unos ±0,04–0,06mm, por limitaciones estructurales. Así que no des por hecho que «digital = automáticamente alta precisión» — adquiere el hábito de comprobar el EMP publicado del modelo concreto antes de comprar.

Cuidado con la cifra «garantía ±0,2mm» que circula por internet

Es fácil encontrar sitios que citan para calibres digitales una «precisión garantizada por el fabricante de ±0,2mm», sin aclarar en qué norma o condición de prueba se basa esa cifra. Como se ha explicado, el EMP de un calibre digital estándar con pantalla de 0,01mm suele estar en el rango de ±0,02–0,03mm, un orden de magnitud más estricto que esos ±0,2mm. Por otro lado, en foros circulan cifras basadas en la sensación personal, como «si está calibrado, el error ronda ±1 dígito (unos ±0,01mm)». En la práctica, es difícil saber qué cifra creer. Por eso, no te fíes de las cifras de otros sitios o foros sin más: comprueba el EMP publicado del modelo concreto que estés considerando.

Ver «el límite de lo que se puede leer» en un instrumento con división de 0,02mm

Veamos esto con un calibre de nonio analógico real. El nonio solo tiene líneas de graduación a intervalos fijos, así que cualquier valor más fino solo se puede estimar a ojo. La pantalla «0,01mm» de un calibre digital simplemente elimina electrónicamente ese límite visible de las líneas de graduación — y que el límite visible desaparezca no garantiza automáticamente la fiabilidad de las cifras que hay más allá. Manejar un instrumento real como este ayuda a hacerse una idea concreta de ello.

Un instrumento real para ver los límites de la resolución

Spurtar Pie de Rey 150mm (Analogico, escala 0,02mm)

Según la ficha del fabricante, se trata de un calibre de nonio analógico con división de escala de 0,02mm, en una franja de precio accesible.

Al leer el nonio de verdad, se puede notar directamente que cualquier valor más fino que la división de 0,02mm pasa a ser una estimación a ojo — una buena forma de hacerse una idea intuitiva de que «resolución = la unidad más pequeña que realmente se puede leer».

La fuerza de medición, el paralaje y la temperatura también añaden error real

Los calibres, por lo general, no tienen el mecanismo de fuerza constante (que se detiene a una presión fija) que sí tiene un micrómetro, así que apretar las mordazas con fuerza variable introduce error, sobre todo en piezas de baja rigidez. En los calibres analógicos y de reloj se suma además el paralaje, por leer la escala en ángulo. Si además hay una diferencia de temperatura importante entre la pieza y el calibre, entra en juego la dilatación térmica. Ninguno de estos factores depende del número de cifras de resolución — se aplican por igual a cualquier tipo de calibre. Por eso, para mediciones precisas, mantén una fuerza de medición constante (no aprietes en exceso), lee la escala de frente, y deja que pieza y calibre se atemperen a temperatura ambiente antes de medir.

Mena

En resumen: solo se puede confiar en una lectura «de 0,01mm» cuando se cumplen tres condiciones a la vez: el instrumento está calibrado, la fuerza de medición es constante y todo está atemperado a temperatura ambiente. Si falla alguna, la diferencia real puede ser varias veces mayor que lo que sugiere una pantalla de 0,01mm.

Accesorios para mantener la precisión

Por muy ajustado que sea el EMP publicado de un calibre, el error real del instrumento depende mucho del uso y del almacenamiento. Una vez entendida la diferencia entre resolución y precisión, conviene considerar también algunos accesorios para mantener esa precisión.

Bloques patrón de calibración

Si se quiere comprobar de forma sencilla, no solo al comprar sino durante el uso continuado, si el error del instrumento se ha salido del EMP, resulta útil disponer de un bloque patrón de dimensión conocida. Medir periódicamente la dimensión de referencia facilita detectar una desviación respecto al estado de compra.

Mena

Quien haga trabajo de precisión, con solo tener un bloque patrón a mano podrá detectar antes ese «espera, este valor no cuadra».

Estuche de protección y almacenamiento

La punta de las mordazas está acabada con precisión, así que si el calibre golpea contra otras herramientas dentro de una caja de herramientas, las caras de medición se dañan con facilidad. La mayoría de los productos incluyen un estuche sencillo, pero si se transporta a menudo a la obra, merece la pena considerar un estuche acolchado y rígido — varios fabricantes de herramientas venden estuches de protección específicos para calibres estándar de 150mm.

Mena

A partir de aquí, respondamos a las preguntas más frecuentes.

Preguntas frecuentes

P. Si compro un calibre con pantalla de 0,01mm, ¿puedo confiar en él hasta esa unidad?

R. No necesariamente. La pantalla representa la resolución (la unidad más pequeña que se puede leer); el límite real del error del instrumento —el EMP— es una cifra que el fabricante publica por separado, según el modelo. Comprueba el EMP publicado del modelo concreto antes de comprar.

P. ¿Cuánto más preciso es un calibre digital de 0,01mm frente a uno analógico de 0,05mm?

R. Comparando instrumentos estándar, el EMP de un modelo con pantalla de 0,05mm (unos ±0,05mm) mejora a unos ±0,02–0,03mm en uno con pantalla de 0,01mm — una mejora de aproximadamente el doble. Pero como la resolución de pantalla se multiplicó por 5, la precisión no mejora tanto como sugiere el número de cifras. En modelos de geometría especial, el EMP puede llegar hasta ±0,04–0,06mm.

P. ¿Dónde puedo consultar el error del instrumento/EMP de un calibre concreto?

R. Suele aparecer en la página de especificaciones o el catálogo del fabricante como «Error Máximo Permisible» o «precisión». El dato de «precisión» en una ficha de venta puede considerarse, en la práctica, equivalente al valor normativo del EMP. Si no aparece indicado, conviene consultar directamente con el fabricante.

Precauciones al medir

Cierra siempre las mordazas y comprueba el punto cero antes de medir. El aceite o las virutas metálicas en las caras de medición son causa de error, así que mantenlas limpias. No aprietes en exceso las mordazas sobre materiales blandos, y si hay una diferencia de temperatura importante entre la pieza y el calibre, deja que se atemperen a temperatura ambiente antes de medir.

Mena

Recuerda: una «pantalla de 0,01mm» no significa «precisión de 0,01mm». La resolución es solo la unidad más pequeña que se puede leer; el límite del error del instrumento —el EMP— es algo que se comprueba modelo a modelo.

Resumen

La resolución (división de escala) de un calibre y su EMP (el límite normativo del error del instrumento) son cosas distintas. Una división más fina da más cifras que leer, pero la precisión real la determina el valor del EMP. En instrumentos estándar, el EMP de un modelo de 0,05mm ronda ±0,05mm, y el de uno de 0,01mm ronda ±0,02–0,03mm — una mejora de 2-3 veces, no de 5 como sugiere el número de cifras (los modelos de geometría especial, como los calibres para cable de acero, pueden llegar a ±0,04–0,06mm). La cifra «garantía ±0,2mm» que circula por internet suele presentarse sin una fuente clara, así que no la des por buena sin más: comprueba el EMP publicado del modelo concreto que estés considerando. Solo se puede confiar en una lectura «de 0,01mm» cuando el instrumento está calibrado, la fuerza de medición es constante y todo está atemperado a temperatura ambiente.

★Este artículo todavía no se apoya en mediciones de error propias y prácticas, sino en documentación técnica de fabricantes, artículos especializados y normas publicadas. Un informe de medición práctica está previsto para más adelante.

Ver también

Índice