Perguntas com a marcação «floating-point»

Eu tenho um modelo considerável (~ 5000 linhas) escrito em C. É um programa serial, sem geração de números aleatórios em nenhum lugar. Utiliza a biblioteca FFTW para funções que utilizam a FFT - não conheço os detalhes da implementação da FFTW, mas presumo que as funções nela também sejam …

10 floating-point  precision  computer-arithmetic 

Eu li isso (1) Operações mal condicionadas devem ser realizadas antes das bem condicionadas. Como exemplo, deve-se calcular xz−yzxz−yzxz-yz como (x−y)z(x−y)z(x-y)z pois a subtração está mal condicionada enquanto a multiplicação não. Entretanto, uma análise de erro de primeira ordem de ambos os algoritmos revela que eles diferem apenas por um …

10 stability  floating-point 

Eu vejo muito poucas bibliotecas / pacotes de computação de ponto não flutuante. Dadas as várias imprecisões da representação de ponto flutuante, surge a questão de por que não existem pelo menos alguns campos em que essa precisão aumentada pode valer os meandros de trabalhar com ponto fixo. Existe alguma …

10 floating-point  numerics 

Eu tenho uma função numérica f(x, y)retornando um número de ponto flutuante duplo que implementa alguma fórmula e quero verificar se ele está correto em relação às expressões analíticas para todas as combinações de parâmetros xe no yqual estou interessado. Qual é a maneira correta de comparar os valores calculados …

10 floating-point 

Recentemente, encontrei um problema bizarro com o FORTRAN95. Inicializei as variáveis ​​X e Y da seguinte maneira: X=1.0 Y=0.1 Mais tarde eu os adiciono e imprimo o resultado: 1.10000000149012 Após examinar as variáveis, parece que 0,1 não é representado em dupla precisão com total precisão. Existe alguma maneira de evitar …

10 fortran  floating-point 

Quando normalmente faz sentido na programação testar a igualdade de dois números de ponto flutuante? ie a == b onde tanto a & b são carros alegóricos. Minha impressão ingênua é que sempre se testaria a diferença em relação a alguma tolerância epsilon. Estou errado? O teste da igualdade de …

8 floating-point 

Eu sei que devo usar uma tolerância para comparar números de ponto flutuante. Mas para comparar vetores, posso pensar em 3 soluções possíveis correspondentes a diferentes métricas de distância: Compare os componentes de cada vetor individualmente: os vetores são iguais se todos os 3 estiverem dentro da tolerância. Essa opção …

8 floating-point