Perguntas com a marcação «floating-point»

Estou tentando implementar um filtro IIR de 8ª ordem e todas as anotações e livros didáticos que li dizem que é melhor implementar qualquer filtro de ordem superior a 2 como seções de segunda ordem. Eu usei tf2sosno MATLAB para obter os coeficientes para seções de segunda ordem, o que …

20 filters  filter-design  infinite-impulse-response  biquad  audio  image-processing  distance-metrics  algorithms  interpolation  audio  hardware  performance  sampling  computer-vision  dsp-core  music  frequency-spectrum  matlab  power-spectral-density  filter-design  ica  source-separation  fourier-transform  fourier-transform  sampling  bandpass  audio  algorithms  edge-detection  filters  computer-vision  stereo-vision  filters  finite-impulse-response  infinite-impulse-response  image-processing  blur  impulse-response  state-space  linear-systems  dft  floating-point  software-implementation  oscillator  matched-filter  digital-communications  digital-communications  deconvolution  continuous-signals  discrete-signals  transfer-function  image-processing  computer-vision  3d 

O mesmo sistema de processamento de sinal digital AMD X86-64 de ponto flutuante mencionado na pergunta anterior tem um problema em que às vezes diminui substancialmente quando os sinais atingem valores muito próximos (mas não exatamente) a zero. O problema é que os valores de ponto flutuante desnormalizados requerem processamento …

7 floating-point