Perguntas com a marcação «number-formats»

Eu estive olhando para a matemática por trás da conversão de qualquer base para qualquer base. Trata-se mais de confirmar meus resultados do que qualquer coisa. Encontrei o que parece ser minha resposta no mathforum.org, mas ainda não tenho certeza se estou certo. Eu tenho a conversão de uma base …

36 algorithms  arithmetic  number-formats 

Considere uma representação de ponto fixo que pode ser considerada como um caso degenerado de um número flutuante. É perfeitamente possível usar o complemento de 2 para números negativos. Mas por que um bit de sinal é necessário para números de ponto flutuante, os bits de mantissa não deveriam usar …

20 computer-architecture  floating-point  number-formats 

O ponto flutuante atual (flutuante ANSI C, duplo) permite representar uma aproximação de um número real. Existe alguma maneira de representar números reais sem erros ? Aqui está uma ideia que tive, que é tudo menos perfeita. Por exemplo, 1/3 é 0,33333333 ... (base 10) ou 0,01010101 ... (base 2), …

10 binary-arithmetic  arithmetic  floating-point  real-numbers  number-formats 

Quero compactar o tamanho do arquivo criando meu próprio sistema de numeração, que é um número baseado em 80. Eu realmente quero saber se isso é possível? Aprendi que o hexadecimal usa símbolos como A, B, C, D, E, F para representar 10,11,12,13,14,15 - e é isso que eu quero …

8 data-compression  number-formats 

Parece haver muitas abordagens para julgar se dois números de ponto flutuante são idênticos. Aqui estão alguns exemplos que encontrei: fabs(x - y) < n * FLT_EPSILON * fabs(x) OU fabs(x - y) < n * FLT_EPSILON * fabs(y) fabs(x - y) < n * FLT_EPSILON * fabs(x + y) …

7 floating-point  number-formats