Como interpreto a precisão e a escala de um número em um banco de dados?

245

Eu tenho a seguinte coluna especificada em um banco de dados: decimal (5,2)

Como se interpreta isso?

De acordo com as propriedades da coluna, como visualizadas no SQL Server Management studio, posso ver que isso significa: decimal (precisão numérica, escala numérica).

O que precisão e escala significam em termos reais?

Seria fácil interpretar isso como um decimal com 5 dígitos e duas casas decimais ... ou seja, 12345.12

PS: Consegui determinar a resposta correta de um colega, mas tive grande dificuldade em encontrar uma resposta on-line. Como tal, gostaria de ter a pergunta e resposta documentadas aqui no stackoverflow para referência futura.

— mezoid
fonte

Respostas:

396

A precisão numérica refere-se ao número máximo de dígitos presentes no número.

1234567.89 tem uma precisão de 9

Escala numérica refere-se ao número máximo de casas decimais

123456.789 tem uma escala de 3

Portanto, o valor máximo permitido para decimal (5,2) é 999,99

— mezoid
fonte

Não se esqueça de que, se você estiver usando um sistema que permita pré-definir a precisão e a escala de uma entrada para uma porcentagem em algo como o Microsoft Access, considere a porcentagem como seu número inteiro. Nesse caso, 25,5% exigiriam precisão 4 e escala de 3 (não uma), pois precisamos considerá-la como 0,255. Me deparei com esse problema desde o início e fiquei perplexo por um tempo imaginando por que a escala 1 não estava funcionando.

— Ashton Sheets

@mezoid O que significa um valor de escala negativo?

— Geek

@ Geek De acordo com technet.microsoft.com/en-us/library/ms187746.aspx A escala não pode ser menor que zero. 0 <= escala <= precisão. Essencialmente, um valor de escala negativo não teria sentido.

— mezoid

@ Mezoid: Isso não é verdade para todos os bancos de dados; por exemplo, no Oracle: "Qual finalidade uma escala negativa poderia atender? Ela permite arredondar valores à esquerda da casa decimal. Assim como o NUMBER (5,2) arredondou os valores para o 0,01 mais próximo, um NUMBER (5 , -2) arredondaria para os 100 mais próximos ... "

— Air

Não deveria ser: "Precisão numérica refere-se ao número máximo de dígitos que podem estar presentes no número."? O número exato 123.5 também pode ter a precisão 10, mas não há mais dígitos a serem adicionados. Ou isso se tornaria 123.5000000?

— Chris311

Precisão de um número é o número de dígitos.

Escala de um número é o número de dígitos após o ponto decimal.

O que geralmente está implícito ao definir precisão e escala na definição de campo é que eles representam valores máximos .

Exemplo, um campo decimal definido com precision=5e scale=2permitiria os seguintes valores:

123.45 (p = 5, s = 2)
12.34 (p = 4, s = 2)
12345 (p = 5, s = 0)
123.4 (p = 4, s = 1)
0 (p = 0, s = 0)

Os seguintes valores não são permitidos ou causariam perda de dados:

12.345(p = 5, s = 3) => pode ser truncado em 12.35(p = 4, s = 2)
1234.56(p = 6, s = 2) => pode ser truncado em 1234.6(p = 5, s = 1)
123.456(p = 6, s = 3) => pode ser truncado em 123.46(p = 5, s = 2)
123450 (p = 6, s = 0) => fora da faixa

Observe que o intervalo geralmente é definido pela precisão: |value| < 10^p...

— boumbh
fonte

Observe que o MS SQL Server não permitiria 12345 ou 1234.56 porque "[scale] é subtraído de [precision] para determinar o número máximo de dígitos à esquerda do ponto decimal". (fonte: decimal e numérico )

— molnarm 17/02

Que tal 12345000? Precisão 5 ou 8? Se 5, com qual escala? Escala -3?

— towi

@towi o que isso significa? Se você quisesse armazenar isso, usaria 8,0.

— Rob Grant

Boa resposta, mas por que está 123450 (p=6,s=0)fora de alcance? 123450 tem 6 dígitos e nenhum dígito após um ponto?

— Matthias Burger

@MatthiasBurger 123450 (p=6,s=0)estaria fora do intervalo para um campo decimal com precisão 5 (conforme mencionado no exemplo). Como a precisão de um número que você deseja armazenar em um campo deve ser menor ou igual à precisão do campo.

— Snozzlebert 23/03/19

Precisão, escala e comprimento na documentação do SQL Server 2000:

Precisão é o número de dígitos em um número. Escala é o número de dígitos à direita da vírgula decimal em um número. Por exemplo, o número 123.45 tem uma precisão de 5 e uma escala de 2.

— Chris
fonte

Obrigado. Eu só percebi que um pedaço de Delphi / code Pascal estava usando uma escala de 0 a cortar a parte decimal do flutuador

— peterchaula