Perguntas com a marcação «precision»

Questões relacionadas à representação de grandezas numéricas em uma representação finita em uma determinada base que difere de seu valor matemático exato.

17
Existe um solucionador de programação não-linear de alta qualidade para Python?
Eu tenho vários problemas desafiadores de otimização global não convexa para resolver. Atualmente, uso o Optimization Toolbox do MATLAB (especificamente, fmincon()com o algoritmo = 'sqp'), o que é bastante eficaz . No entanto, a maior parte do meu código está em Python, e eu adoraria fazer a otimização em Python …




2
Maneira numericamente estável de calcular ângulos entre vetores
Ao aplicar a fórmula clássica para o ângulo entre dois vetores: α=arccosv1⋅v2∥v1∥∥v2∥α=arccos⁡v1⋅v2‖v1‖‖v2‖\alpha = \arccos \frac{\mathbf{v_1} \cdot \mathbf{v_2}}{\|\mathbf{v_1}\| \|\mathbf{v_2}\|} verifica-se que, para ângulos muito pequenos / agudos, há uma perda de precisão e o resultado não é exato. Conforme explicado nesta resposta de estouro de pilha , uma solução é usar …


3
Precisão de ponto flutuante simples versus duplo
Os números de ponto flutuante de precisão única ocupam metade da memória e em máquinas modernas (mesmo nas GPUs, ao que parece), as operações podem ser feitas com eles quase duas vezes a velocidade em comparação com a precisão dupla. Muitos códigos FDTD que encontrei usam exclusivamente aritmética e armazenamento …



2
Diagonalização de matrizes densas e mal condicionadas
Estou tentando diagonalizar algumas matrizes densas e mal condicionadas. Na precisão da máquina, os resultados são imprecisos (retornando valores próprios negativos, os vetores próprios não possuem as simetrias esperadas). Eu mudei para a função Eigensystem [] do Mathematica para tirar proveito da precisão arbitrária, mas os cálculos são extremamente lentos. …

2
Representando números Eisenstein sem flutuadores
Eu tenho um projeto em que preciso usar campos quadráticos Especificamente, números do formulário com .a+b−3−−−√a+b−3a + b \sqrt{-3}a , b ∈Qa,b∈Qa,b \in \mathbb{Q} Por exemplo, aqui estão os números primos nos números inteiros de Eisenstein : Eu não quero usar sálvia. Eu gostaria de escrever meu próprio tipo de …


Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.