Perguntas com a marcação «dc»


3
Perdendo a precisão com CC
Eu quero usar dcpara lidar com alguns números de base 16 com pontos hexadecimais, mas estou tendo problemas de precisão. Por exemplo, abaixo estou multiplicando F423F.FDpor 100, ambos hexadecimais. A resposta esperada é F423FFD, em vez disso, está dando F423FFA.E1, próxima, mas não é precisa o suficiente, mesmo após o …
12 dc 
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.