Programação floating-point

3

Por que NaN - NaN == 0.0 com o compilador Intel C ++?

É sabido que os NaNs se propagam em aritmética, mas não consegui encontrar nenhuma demonstração, então escrevi um pequeno teste: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; …

300 c++ c floating-point ieee-754 icc

13

Faça um float mostrar apenas duas casas decimais

Eu tenho o valor 25.00em a float, mas quando imprimo na tela é 25.0000000. Como posso exibir o valor com apenas duas casas decimais?

296 objective-c formatting floating-point

6

Por que alterar a ordem da soma retorna um resultado diferente?

Por que alterar a ordem da soma retorna um resultado diferente? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Ambos Java e JavaScript retornam os mesmos resultados. Entendo que, devido à maneira como os números de ponto flutuante são representados em binário, alguns números …

294 java javascript floating-point

2

Por que algumas comparações float <integer são quatro vezes mais lentas que outras?

Ao comparar flutuações com números inteiros, alguns pares de valores levam muito mais tempo para serem avaliados do que outros valores de magnitude semelhante. Por exemplo: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 Mas se o número flutuante ou número inteiro for menor ou …

284 python performance floating-point cpython python-internals

19

Por que os números decimais não podem ser representados exatamente em binário?

Houve várias perguntas postadas no SO sobre representação de ponto flutuante. Por exemplo, o número decimal 0.1 não tem uma representação binária exata, portanto, é perigoso usar o operador == para compará-lo com outro número de ponto flutuante. Entendo os princípios por trás da representação em ponto flutuante. O que …

284 math floating-point

3

Flutuante vs decimal no ActiveRecord

Às vezes, os tipos de dados do Activerecord me confundem. Erre, frequentemente. Uma das minhas eternas perguntas é, para um dado caso, Devo usar :decimalou :float? Eu sempre encontrei esse link, ActiveRecord:: decimal vs: float? , mas as respostas não são suficientemente claras para que eu tenha certeza: Eu já …

283 ruby-on-rails types floating-point decimal rails-activerecord

6

Por que esses números não são iguais?

O código a seguir está obviamente errado. Qual é o problema? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

14

Geração aleatória de números flutuantes

Como gerar flutuações aleatórias em C ++? Eu pensei que poderia pegar o rand inteiro e dividi-lo por algo, isso seria suficiente?

271 c++ random floating-point

12

Qual é a justificativa para todas as comparações que retornam false para valores NaN IEEE754?

Por que as comparações de valores de NaN se comportam de maneira diferente de todos os outros valores? Ou seja, todas as comparações com os operadores ==, <=,> =, <,> em que um ou ambos os valores são NaN retornam falso, ao contrário do comportamento de todos os outros valores. …

267 floating-point comparison nan ieee-754 iec10967

12

Quando devo usar o dobro em vez do decimal?

Posso citar três vantagens em usar double(ou float) em vez de decimal: Usa menos memória. Mais rápido porque as operações matemáticas de ponto flutuante são suportadas nativamente pelos processadores. Pode representar um intervalo maior de números. Mas essas vantagens parecem se aplicar apenas a operações intensivas de cálculo, como as …

265 c# types floating-point double decimal

9

Quando devo usar a palavra-chave "strictfp" em java?

Eu procurei o que isso faz, mas alguém realmente tem um exemplo de quando você usaria a strictfppalavra - chave em Java? Alguém realmente encontrou um uso para isso? Haveria efeitos colaterais de colocá-lo em todas as minhas operações de ponto flutuante?

258 java floating-point strictfp

9

Que tipo de dados MySQL deve ser usado para Latitude / Longitude com 8 casas decimais?

Estou trabalhando com dados do mapa e o número Latitude/Longitudese estende para 8 casas decimais. Por exemplo: Latitude 40.71727401 Longitude -74.00898606 Vi no documento do Google que usa: lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL no entanto, suas casas decimais só vão para …

257 mysql types floating-point

7

Por que a divisão no Ruby está retornando um número inteiro em vez do valor decimal?

Por exemplo: 9 / 5 #=> 1 mas eu esperava 1.8. Como posso obter o resultado decimal (não inteiro) correto? Por que está voltando 1?

256 ruby math floating-point division integer-division

8

Como converter string em float em JavaScript?

Estou tentando analisar dois valores de um datagrid. Os campos são numéricos e, quando possuem uma vírgula (ex. 554,20), não consigo obter os números após a vírgula. Eu tentei parseInte parseFloat. Como posso fazer isso?

255 javascript parsing floating-point

11

Alguém pode explicar esse comportamento estranho com carros alegóricos assinados em c #?

Aqui está o exemplo com comentários: class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before public struct …

247 c# .net floating-point

Perguntas com a marcação «floating-point»