Perguntas com a marcação «decimal»

Qual é a diferença entre decimal, floate doubleem .NET? Quando alguém usaria um desses?

2086 .net  floating-point  double  decimal 

O que eu gostaria é de um método para converter um duplo em uma string que arredonde usando o método half-up - ou seja, se o decimal a ser arredondado for 5, ele sempre arredondará para o próximo número. Esse é o método padrão de arredondamento que a maioria das …

1259 java  decimal  rounding  digits 

Eu quero usar um Track-Barpara mudar a Formopacidade de um. Este é o meu código: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Quando crio o aplicativo, ele fornece o seguinte erro: Não é possível converter implicitamente o tipo decimalparadouble Eu tentei usar transe, em doubleseguida, o Controlnão funciona. …

671 c#  floating-point  type-conversion  double  decimal 

Ao exibir o valor de um decimal atualmente com .ToString(), é preciso gostar de 15 casas decimais e, como estou usando-o para representar dólares e centavos, quero apenas que a saída tenha 2 casas decimais. Eu uso uma variação .ToString()para isso?

649 c#  .net  decimal  rounding 

Eu quero fazer isso usando a Math.Roundfunção

380 c#  decimal  rounding  bankers-rounding 

Para trabalhar com tipos de dados decimais, eu tenho que fazer isso com inicialização variável: decimal aValue = 50.0M; O que a parte M representa?

312 c#  decimal  literals 

Às vezes, os tipos de dados do Activerecord me confundem. Erre, frequentemente. Uma das minhas eternas perguntas é, para um dado caso, Devo usar :decimalou :float? Eu sempre encontrei esse link, ActiveRecord:: decimal vs: float? , mas as respostas não são suficientemente claras para que eu tenha certeza: Eu já …

283 ruby-on-rails  types  floating-point  decimal  rails-activerecord 

Estou tentando descobrir o tipo de dados decimal de uma coluna no SQL Server. Eu preciso ser capaz de armazenar valores como 15,5, 26,9, 24,7, 9,8, etc. Eu atribui decimal(18, 0)ao tipo de dados da coluna, mas isso não me permite armazenar esses valores. Qual é a maneira certa de …

272 sql  sql-server  types  decimal 

Posso citar três vantagens em usar double(ou float) em vez de decimal: Usa menos memória. Mais rápido porque as operações matemáticas de ponto flutuante são suportadas nativamente pelos processadores. Pode representar um intervalo maior de números. Mas essas vantagens parecem se aplicar apenas a operações intensivas de cálculo, como as …

265 c#  types  floating-point  double  decimal 

Eu tenho números flutuantes como 3.2e 1.6. Preciso separar o número na parte inteira e decimal. Por exemplo, um valor de 3.2seria dividido em dois números, ie 3e0.2 Obter a parte inteira é fácil: n = Math.floor(n); Mas estou tendo problemas para obter a parte decimal. Eu tentei isso: remainer …

247 javascript  floating-point  numbers  decimal  rounding 

Eu tenho a seguinte coluna especificada em um banco de dados: decimal (5,2) Como se interpreta isso? De acordo com as propriedades da coluna, como visualizadas no SQL Server Management studio, posso ver que isso significa: decimal (precisão numérica, escala numérica). O que precisão e escala significam em termos reais? …

245 sql  database  decimal  scale  precision 

Eu tenho um Decimal('3.9')como parte de um objeto, e gostaria de codificar isso para uma string JSON que deve se parecer {'x': 3.9}. Eu não me importo com precisão no lado do cliente, então um float é bom. Existe uma boa maneira de serializar isso? JSONDecoder não aceita objetos decimais, …

242 python  json  floating-point  decimal 

Tentando remover todas as letras e caracteres que não são de 0 a 9 e um ponto final. Estou usando, Character.isDigit()mas ele também remove decimal, como também posso manter o decimal?

237 java  string  character  decimal 

Estou experimentando essa abordagem de primeiro código, mas agora descubro que uma propriedade do tipo System.Decimal é mapeada para uma coluna sql do tipo decimal (18, 0). Como defino a precisão da coluna do banco de dados?

230 c#  .net  entity-framework  ef-code-first  decimal 

Como converter um decimal para um int?

227 c#  .net  int  decimal