11 99936.200511 4522.7284
RESOLUÇÃO
Este termo se aplica à resolução de medição ou resolução efetiva. É a capacidade do sistema de medição detectar e fielmente indicar sempre menores mudanças da característica medida (veja também discriminação). A resolução de um sistema de medição é 8 se houver idêntica probabilidade de o valor indicado para qualquer peça (cuja diferença para uma peça de referência for menor que 8) ser coincidente com o valor indicado para a peça de referência. A resolução de um sistema de medição é afetada pelo instrumento de medição bem como por outras fontes de variação do sistema de medição visto como um todo.
RESOLUÇÃO APARENTE
Tamanho do menor incremento de leitura na escala do instrumento de medição. Geralmente este valor é utilizado na literatura como propaganda para classificar o instrumento de medição.
Determina-se o número de categorias de dados dividindo-se a variação total do processo (60') pelo tamanho do menor incremento de leitura na escala do instrumento de medição.
NOTA: A quantidade de dígitos mostrados ou registrados em relatórios nem sempre indica a resolução do instrumento. Por exemplo, peças medidas com valores 29,075 - 29,080 - 29,095, etc., são registradas como tendo cinco (5) dígitos mensuráveis; contudo, o instrumento pode não ter uma resolução de 0,001, em vez disto, tem uma resolução de 0,005.
RESOLUÇÃO EFETIVA
Tamanho das categorias de dados quando se considera toda a variação do sistema de medição. Esse tamanho é determinado pelo comprimento do intervalo de confiança baseado na variação do sistema de medição. O número de distintas categorias, ndc pode ser determinado dividindo-se a variação total do processo pelo tamanho das categorias de dados. Para a resolução efetiva, uma estimativa padrão do ndc (com nível de confiança 97%) é 1,41 [PV/GRR]. (veja Wheeler, 1989, para uma interpretação alternativa).