Perguntas com a marcação «numbers»

Freqüentemente, na minha experiência em programação, preciso tomar uma decisão se devo usar float ou double para meus números reais. Às vezes eu vou flutuar, às vezes eu vou dobrar, mas isso realmente parece mais subjetivo. Se eu fosse confrontado para defender minha decisão, provavelmente não daria razões sólidas. Quando …

194 c++  c  floating-point  numbers 

Em todos os lugares que eu olhei, diz que doubleé superior a floatquase todos os aspectos. floatficou obsoleto doubleem Java, então por que ainda é usado? Eu programo muito com o Libgdx e eles o forçam a usar float(deltaTime, etc.), mas me parece que doubleé mais fácil trabalhar com isso …

84 java  memory  floating-point  numbers 

Um dos meus amigos recebeu essa pergunta da entrevista - "Existe um fluxo constante de números vindo de uma lista infinita de números, dos quais você precisa manter uma estrutura de dados para retornar os 100 números mais altos em qualquer ponto do tempo. Suponha que todos os números sejam …

53 numbers  big-o  puzzles 

OK, sinto-me estúpido ao perguntar isso - mas no artigo de Jeff: Como acertar a tela do telefone da entrevista e originalmente declarado nas 5 perguntas essenciais da tela do telefone : Eles não devem olhar fixamente para você quando você perguntar com 2 ^ 16 é. É um número …

48 numbers  binary 

Linguagens de programação como Scheme (R5RS) e Python ( consulte esta pergunta ) são arredondadas para o número inteiro par mais próximo quando o valor está exatamente entre os números inteiros ao redor. Qual é o raciocínio por trás disso? Existe uma ideia matemática que facilite o raciocínio dos cálculos …

44 scheme  numbers  numeric-precision  python-3.x 

C#possui o decimaltipo usado para números que precisam de representação exata na base 10. Por exemplo, 0.1não pode ser representado na base 2 (por exemplo, floate double) e sempre será uma aproximação quando armazenado em variáveis ​​desses tipos. Fiquei me perguntando se o fato inverso também era possível. Existem números …

42 c#  numbers  floating-point 

Houve uma notícia nas notícias sobre um homem cuja conta Paypal foi acidentalmente creditada com $ 92.233.720.368.547.800. De onde vem esse número? Que tipo de erro de programação provavelmente dará origem a esse número?

36 errors  numbers  payment 

Ao ensinar recentemente sobre a batalha de Big vs. Little Endian, um aluno perguntou se havia sido resolvido, e eu percebi que não sabia. Observando o artigo da Wikipedia , parece que os pares atuais de OS / arquitetura mais populares usam Little Endian, mas o Protocolo da Internet especifica …

34 standards  protocol  computer-architecture  numbers  endianness 

Esta pergunta é sobre quantos bits são necessários para armazenar um intervalo. Ou, em outras palavras, para um determinado número de bits, qual é o alcance máximo que pode ser armazenado e como? Imagine que queremos armazenar um sub-intervalo dentro do intervalo de 0 a 255. Então, por exemplo, 45-74. …

29 data-structures  numbers  compression 

Os computadores têm problemas para armazenar números fracionários em que o denominador é outra coisa que não uma solução para 2 ^ x. Isso ocorre porque o primeiro dígito após o decimal vale 1/2, o segundo 1/4 (ou 1 / (2 ^ 1) e 1 / (2 ^ 2)) etc. …

24 numbers  numeric-precision 

Esta pergunta foi migrada do Stack Overflow porque pode ser respondida no Software Engineering Stack Exchange. Migrou há 8 anos . Eu estava pensando sobre a rand()função php e pensando em como poderia refazê-la, e fiquei completamente estupido. Como funcionam os geradores de números aleatórios?

23 random  numbers 

Projetei recentemente um módulo de série temporal em que minha série temporal é essencialmente a SortedDictionnary<DateTime, double>. Agora eu gostaria de criar testes de unidade para garantir que este módulo esteja sempre funcionando e produzindo o resultado esperado. Uma operação comum é calcular o desempenho entre os pontos da série …

20 .net  unit-testing  numbers 

Em Java há tipos primitivos para byte, short, inte longe a mesma coisa para floate double. Por que é necessário que uma pessoa defina quantos bytes devem ser usados ​​para um valor primitivo? O tamanho não podia ser determinado dinamicamente, dependendo do tamanho do número passado? Existem 2 razões pelas …

20 java  language-design  data-types  numbers 

Em números, é muito importante ser capaz de identificar esquemas instáveis ​​e melhorar sua estabilidade. Como identificar cálculos instáveis ​​de ponto flutuante? Estou trabalhando em uma simulação muito complexa, onde muitos esquemas numéricos trabalham juntos e estou procurando um método para identificar suas partes fracas. Estou trabalhando em um modelo …

15 numbers  numeric-precision 

Qual é a maneira mais rápida de encontrar o primeiro inteiro (menor) que não existe em uma determinada lista de números inteiros não classificados (e que é maior que o menor valor da lista)? Minha abordagem primitiva é classificá-los e percorrer a lista, existe uma maneira melhor?

14 algorithms  search  list  numbers