Qual é o menor número REAL positivo possível real


11

O MSDN diz que o intervalo de números REAL é - 3,40E + 38 a -1,18E - 38, 0 e 1,18E - 38 a 3,40E + 38. Aparentemente, o verdadeiro limite inferior é muito menor. O script a seguir preenche uma coluna REAL com 1.401298E-45:

CREATE TABLE a
  (
    r1 REAL NULL ,
    r2 REAL NULL ,
    r3 REAL NULL
  ) ;
GO
INSERT  INTO a
        ( r1, r2 )
VALUES  ( 1.18E-37, 10 ) ;
GO
DECLARE @i INT ;
SET @i = 1 ;

WHILE @i < 20 
  BEGIN ;

    UPDATE  a
    SET     r1 = r1 / r2 ;

    SELECT  r1 ,
            r2
    FROM    a ;

    SET @i = @i + 1 ;

  END ;
GO
DROP TABLE a ;

r1            r2
------------- -------------
1.18E-38      10

(snip)

r1            r2
------------- -------------
1.401298E-45  10

Alguém pode me dizer qual é o menor número positivo possível real?


1
Definitivamente, há algum comportamento estranho com esse tipo. O menor literal escalar que pude converter e selecionar foi 1.1754944E-38, que voltou como 1.175494E-38 (observe os 4 ausentes no final) - se você tentar converter 1.175494E-38 diretamente, você obtém zero costas.
21412 Jon Seigel

Respostas:


13

O valor mínimo positivo (subnormal) de ponto flutuante de precisão única é 2 −149 ≈ 1,4 × 10 −45 . O valor normal positivo mínimo é 2 −126 ≈ 1,18 × 10 −38 ( referência ).

DECLARE
    @r1 real = POWER(2e0, -126),
    @r2 real = POWER(2e0, -23)

SELECT
    @r1,
    @r2,
    @r1 * @r2,
    CONVERT(binary(4), @r1 * @r2);

Para precisão dupla, o subnormal normal mínimo é:

DECLARE @r1 float = POWER(2e0, -1075);

SELECT @r1, CONVERT(binary(8), @r1);
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.