Perguntas com a marcação «rounding»

Estou recebendo muitas casas decimais na saída desse código (conversor de Fahrenheit para Celsius). Meu código atualmente é assim: def main(): printC(formeln(typeHere())) def typeHere(): global Fahrenheit try: Fahrenheit = int(raw_input("Hi! Enter Fahrenheit value, and get it in Celsius!\n")) except ValueError: print "\nYour insertion was not a digit!" print "We've put …

254 python  rounding 

Eu tenho números flutuantes como 3.2e 1.6. Preciso separar o número na parte inteira e decimal. Por exemplo, um valor de 3.2seria dividido em dois números, ie 3e0.2 Obter a parte inteira é fácil: n = Math.floor(n); Mas estou tendo problemas para obter a parte decimal. Eu tentei isso: remainer …

247 javascript  floating-point  numbers  decimal  rounding 

Eu preciso de uma função simples de arredondamento de ponto flutuante, assim: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Eu posso encontrar ceil()e floor()no math.h - mas não round(). Está presente na biblioteca C ++ padrão com outro nome ou está faltando?

232 c++  floating-point  rounding 

Como arredondar um número em JavaScript? math.round() não funciona porque o arredonda para o decimal mais próximo. Não tenho certeza se existe uma maneira melhor de fazê-lo além de separá-lo no ponto decimal para manter o primeiro bit. Deve haver...

228 javascript  math  rounding 

Eu preciso converter minutos para horas, arredondado para 2 casas decimais. Também preciso exibir apenas até 2 números após o ponto decimal. Então, se eu tiver minutos como 650, então as horas devem ser 10,83 Aqui está o que eu tenho até agora: Select round(Minutes/60.0,2) from .... Mas, neste caso, …

222 sql  rounding 

Estou tentando arredondar os valores BigDecimal para duas casas decimais. estou a usar BigDecimal rounded = value.round(new MathContext(2, RoundingMode.CEILING)); logger.trace("rounded {} to {}", value, rounded); mas não faz o que eu quero consistentemente: rounded 0.819 to 0.82 rounded 1.092 to 1.1 rounded 1.365 to 1.4 // should be 1.37 rounded …

217 java  math  bigdecimal  rounding 

Estou tentando determinar a melhor maneira de truncar ou soltar casas decimais extras no SQL sem arredondamento. Por exemplo: declare @value decimal(18,2) set @value = 123.456 Este será automaticamente rodada @valuepara ser 123.46, o que é bom na maioria dos casos. No entanto, para este projeto, não preciso disso. Existe …

194 sql  sql-server  tsql  rounding 

Considere as quatro porcentagens abaixo, representadas como floatnúmeros: 13.626332% 47.989636% 9.596008% 28.788024% ----------- 100.000000% Eu preciso representar essas porcentagens como números inteiros. Se eu simplesmente usar Math.round(), acabarei com um total de 101%. 14 + 48 + 10 + 29 = 101 Se eu usar parseInt(), acabarei com um total …

192 algorithm  math  rounding  percentage 

Eu estava apenas relendo o que há de novo no Python 3.0 e ele afirma: A estratégia de arredondamento da função round () e o tipo de retorno foram alterados. Os casos exatos na metade agora são arredondados para o resultado par mais próximo, em vez de se afastarem de …

176 python  python-3.x  rounding 

Estou faltando alguma coisa aqui? var someNumber = 123.456; someNumber = someNumber.toFixed(2); alert(typeof(someNumber)); //alerts string Por que.toFixed()retornar uma string? Quero arredondar o número para 2 dígitos decimais.

176 javascript  types  rounding 

Como arredondar um número decimal (ponto flutuante) para o número inteiro mais próximo? por exemplo 1.2 = 1 1.7 = 2

174 perl  floating-point  rounding 

Usando o T-SQL e o Microsoft SQL Server, gostaria de especificar o número de dígitos decimais quando faço uma divisão entre 2 números inteiros, como: select 1/3 Atualmente, isso retorna 0. Eu gostaria que ele voltasse 0,33. Algo como: select round(1/3, -2) Mas isso não funciona. Como posso alcançar o …

173 sql-server  sql-server-2008  division  rounding 

JRuby 1.6.x. Como arredondar um flutuador para casas decimais em jruby. number = 1.1164 number.round(2) The above shows the following error wrong number of arguments (1 for 0) Como arredondar para duas casas decimais?

172 ruby  jruby  rounding 

Estou tentando fazer uma calculadora da taxa de crescimento ( Double) que arredondará o resultado para o número inteiro mais próximo e recalculará a partir daí, da seguinte forma: let firstUsers = 10.0 let growth = 0.1 var users = firstUsers var week = 0 while users < 14 { …

170 swift  int  double  rounding 

OK - Estou quase envergonhado postando isso aqui (e vou excluir se alguém votar para fechar), pois parece uma pergunta básica. É a maneira correta de arredondar para um múltiplo de um número em C ++? Sei que existem outras perguntas relacionadas a isso, mas estou especificamente interessado em saber …

168 c++  algorithm  rounding