Perguntas com a marcação «precision»

Esta foi uma pergunta que me fizeram em minha entrevista recente e eu quero saber (na verdade não me lembro da teoria da análise numérica, então por favor me ajude :) Se tivermos alguma função, que acumula números de ponto flutuante: std::accumulate(v.begin(), v.end(), 0.0); vé um std::vector<float>, por exemplo. Seria …

105 c++  floating-point  precision 

Eu sei que você não pode confiar na igualdade entre valores de tipo duplo ou decimal normalmente, mas estou me perguntando se 0 é um caso especial. Embora eu possa entender imprecisões entre 0,00000000000001 e 0,00000000000002, 0 em si parece muito difícil de errar, já que não é nada. Se …

100 c#  .net  floating-point  precision  zero 

Esta não é uma pergunta, pois é mais uma questão de estar ciente. Atualizei um aplicativo que usa json_encode()para PHP7.1.1 e estava vendo um problema com flutuações sendo alteradas para, às vezes, estender para 17 dígitos. De acordo com a documentação, o PHP 7.1.x passou a usar ao serialize_precisioninvés da …

98 php  json  precision  php-7.1 

Acabei de ter um comportamento inesperado com DateTime.UtcNow ao fazer alguns testes de unidade. Parece que quando você chama DateTime.Now/UtcNow em rápida sucessão, parece devolver o mesmo valor por um intervalo de tempo mais longo do que o esperado, em vez de capturar incrementos de milissegundos mais precisos. Eu sei …

97 c#  .net  datetime  precision  time-precision 

Isso é algo que está na minha mente há anos, mas nunca parei para perguntar antes. Muitos geradores de números (pseudo) aleatórios geram um número aleatório entre 0,0 e 1,0. Matematicamente, existem números infinitos neste intervalo, mas doubleé um número de ponto flutuante e, portanto, tem uma precisão finita. Então, …

93 random  floating-point  double  precision 

Frequentemente, acabo em situações em que é necessário verificar se a diferença obtida está acima da precisão da máquina. Parece que para esta finalidade R tem uma variável útil: .Machine$double.eps. No entanto, quando recorro ao código-fonte R para obter orientações sobre o uso desse valor, vejo vários padrões diferentes. Exemplos …

36 r  floating-point  rounding  precision 

Suponha que tomemos np.dotduas 'float32'matrizes 2D: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] Números. Exceto, eles podem mudar: CASO 1 : fatiaa np.random.seed(1) a = np.random.randn(9, 6).astype('float32') b = np.random.randn(6, 6).astype('float32') for i in range(1, len(a)): print(list(np.dot(a[:i], …

15 python  c  arrays  numpy  precision 

Eu tenho uma lista bastante longa de números positivos de ponto flutuante ( std::vector<float>, tamanho ~ 1000). Os números são classificados em ordem decrescente. Se eu somar eles seguindo a ordem: for (auto v : vec) { sum += v; } Acho que posso ter algum problema de estabilidade numérica, …

12 c++  floating-point  precision 

C ++ possui std::nextafter(), que retorna o próximo valor representável após um determinado valor de ponto flutuante f . No meu caso, eu gostaria de permitir n bits de slop nos bits inferiores da mantissa, portanto, 3 bits de slop exigiriam obter o 8º próximo valor após um determinado valor …

8 c++  floating-point  precision