Perguntas com a marcação «floating-point»

Um método de representação de números por um número fixo de dígitos significativos e o expoente de algum número base. Eles são caracterizados na forma . Normalmente, os números são representados em relação a base = 2 (binário). (sEugnEufEucumantdEugEuts)bumaseexponent


1
Ordem das operações, algoritmos numéricos
Eu li isso (1) Operações mal condicionadas devem ser realizadas antes das bem condicionadas. Como exemplo, deve-se calcular xz−yzxz−yzxz-yz como (x−y)z(x−y)z(x-y)z pois a subtração está mal condicionada enquanto a multiplicação não. Entretanto, uma análise de erro de primeira ordem de ambos os algoritmos revela que eles diferem apenas por um …


3
Comparação relativa de números de ponto flutuante
Eu tenho uma função numérica f(x, y)retornando um número de ponto flutuante duplo que implementa alguma fórmula e quero verificar se ele está correto em relação às expressões analíticas para todas as combinações de parâmetros xe no yqual estou interessado. Qual é a maneira correta de comparar os valores calculados …

2
Como definir valores de precisão dupla no Fortran
Recentemente, encontrei um problema bizarro com o FORTRAN95. Inicializei as variáveis ​​X e Y da seguinte maneira: X=1.0 Y=0.1 Mais tarde eu os adiciono e imprimo o resultado: 1.10000000149012 Após examinar as variáveis, parece que 0,1 não é representado em dupla precisão com total precisão. Existe alguma maneira de evitar …

6
Testando a igualdade de dois carros alegóricos: exemplo realista
Quando normalmente faz sentido na programação testar a igualdade de dois números de ponto flutuante? ie a == b onde tanto a & b são carros alegóricos. Minha impressão ingênua é que sempre se testaria a diferença em relação a alguma tolerância epsilon. Estou errado? O teste da igualdade de …

1
Qual é a maneira correta de comparar vetores em ponto flutuante?
Eu sei que devo usar uma tolerância para comparar números de ponto flutuante. Mas para comparar vetores, posso pensar em 3 soluções possíveis correspondentes a diferentes métricas de distância: Compare os componentes de cada vetor individualmente: os vetores são iguais se todos os 3 estiverem dentro da tolerância. Essa opção …
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.