Amplitude ideal de um

Um sinusóide de tempo contínuo de amplitude real de zero a pico (por exemplo, para , ) é quantificado em resolução de bits, arredondando-o para número inteiro mais próximo (Fig. 1). Qual é a amplitude ideal para diferentes ?$A \le 2^{m-1}-0.5$$m=16$$A \le 32767.5$$m$$m \le 24$

Figura 1. Para , um sinusóide da amplitude máxima permitida (linha sólida azul), sua quantização (linha tracejada laranja) e o complemento mais negativo e positivo de dois bits de 4 bits assinam números inteiros -8 e 7 ( amarelo).$m = 4$$A = 7.5$

Uma resposta é desejada para cada uma das duas definições alternativas de otimização:

1. maximizar a relação sinal-ruído (SNR), onde o sinal é o sinusóide original e o ruído é o erro de quantização, e
2. minimizar a distorção harmônica total (THD), que é normalizada em relação à amplitude da frequência fundamental na série de Fourier do sinusóide quantizado.

A fase do sinusóide não importa: uma mudança de fase de um sinusóide é equivalente a uma mudança no tempo, o que resulta em uma mudança no tempo do sinusóide quantificado e do erro de quantização. O espectro de potência é invariável às mudanças de tempo . Escolhemos trabalhar com sinusóide$A\cos(x)$.

Optimalidade por def. 1 1

Equivalentemente à maximização da relação sinal-ruído (SNR), podemos minimizar o erro de quantização do quadrado médio da raiz em relação ao quadrado médio da raiz $\sqrt{1/2}A$ do sinusóide, $\mathrm{RRMSE}$ $=$ $\sqrt{1/\mathrm{SNR}}$. É o suficiente para fazer a análise no primeiro trimestre da onda cosseno, porque o restante da onda cosseno e o erro de quantização são idênticos ao seu primeiro trimestre até uma inversão de sinal e / ou reversão do tempo. Deixei$x$ estar no primeiro trimestre da onda cosseno, $0 < x < \pi/2$. Ao longo das linhas da Eq. 2 da minha resposta a uma pergunta relacionada , a onda cosseno quantizada atinge um valor inteiro$k \in 0\ldots\mathrm{round}(A)$ quando:

$$\begin{align}0 < x < \mathrm{acos}\left(\frac{\mathrm{round}(A) - 0.5}{A}\right),\quad &\text{if }k = \mathrm{round}(A),\\ \mathrm{acos}\left(\frac{k + 0.5}{A}\right) < x < \mathrm{acos}\left(\frac{k - 0.5}{A}\right),\quad &\text{if }1 \le k \le \mathrm{round}(A) - 1,\\ \mathrm{acos}\left(\frac{0.5}{A}\right) < x <\frac{\pi}{2},\quad &\text{if }k = 0.\end{align}\tag{1}$$

Cada valor de $k$ dá ao erro quadrático médio relativo $\mathrm{RelMSE}$ uma contribuição aditiva de:

$$\frac{2\,\mathrm{MSE}_k}{A^2} = \frac{2}{A^2}\frac{1}{\pi/2}\int_{x_0}^{x_1}\big(A\cos(x)-k\big)^2dx = \frac{2\sin(x_1)\cos(x_1) - 2\sin(x_0)\cos(x_0)}{\pi} + \frac{8k\big(\sin(x_0) - \sin(x_1)\big)}{\pi A} + \frac{4k^2(x_1 - x_0)}{\pi A^2} + \frac{2x_1 - 2x_0}{\pi},\tag{2}$$

Onde $x_0$ e $x_1$ denotar, conforme definido separadamente para cada $k$os limites $x_0 < x < x_1$dada pela Eq. 1. O erro quadrático médio total de quantização relativo é então:

$$\begin{gather}\mathrm{RelMSE} = \frac{2\,\mathrm{MSE}}{A^2} = \sum_{k=0}^{\mathrm{round}(A)}\frac{2\,\mathrm{MSE}_k}{A^2}\\ = \frac{2\,\mathrm{asin}\left(\frac{1}{2A}\right)}{\pi} - \frac{\sqrt{4A^2 - 1}}{2\pi A^2} - \frac{(2A^2 + 4\,\mathrm{round}(A)^2)\,\mathrm{asin}\left(\frac{2\,\mathrm{round}(A) - 1}{2A}\right)}{\pi A^2} - \frac{(6\,\mathrm{round}(A) + 1)\sqrt{4A^2 - (2\,\mathrm{round}(A) - 1)^2} - 2\pi(A^2 + 2\,\mathrm{round}(A)^2)}{2\pi A^2}\\{+\,\frac{1}{\pi A^2}\sum_{k=1}^{\mathrm{round}(A)-1}}\left(\left(2A^2 + 4k^2\right)\bigg(\mathrm{asin}\left(\tfrac{2k + 1}{2A}\right) - \mathrm{asin}\left(\tfrac{2k - 1}{2A}\right)\bigg) + \frac{(6k - 1)\sqrt{4A^2 - (2k + 1)^2} - (6k + 1)\sqrt{4A^2 - (2k - 1)^2}}{2}\right),\quad A > 0.5.\end{gather}\tag{3}$$

Para otimizar pela definição 1, a tarefa é encontrar o valor de $A$ que minimiza o erro relativo de quantização do quadrado médio da raiz RRMSE $= \sqrt{\mathrm{RelMSE}}$. sob a restrição$A \le 2^{m-1}-0.5$. Eq. 3 pode ser avaliado em Python usando a mpmathbiblioteca de precisão arbitrária:

import mpmath as mp
def RelMSE(A):  # valid for A >= 0.5
    A = mp.mpf(A)
    return 2*mp.asin(1/(2*A))/mp.pi - mp.sqrt(4*A**2-1)/(2*mp.pi*A**2) - (2*A**2 + 4*mp.floor(A + 0.5)**2)*mp.asin((2*mp.floor(A + 0.5) - 1)/(2*A))/(mp.pi*A**2) - ((6*mp.floor(A + 0.5) + 1)*mp.sqrt(4*A**2 - (2*mp.floor(A + 0.5) - 1)**2) - 2*mp.pi*(A**2 + 2*mp.floor(A + 0.5)**2))/(2*mp.pi*A**2) + mp.nsum(lambda k: (2*A**2 + 4*k**2)*(mp.asin((2*k+1)/(2*A)) - mp.asin((2*k-1)/(2*A))) + ((6*k-1)*mp.sqrt(4*A**2 - (2*k + 1)**2) - (6*k + 1)*mp.sqrt(4*A**2 - (2*k - 1)**2))/2, [1, mp.floor(A + 0.5)-1])/(mp.pi*A**2)

RRMSE parece ter um mínimo local entre cada par de números inteiros sucessivos $A$ (Figura 1).

Figura 1. RRMSE (linha sólida azul e quadrados azuis) e sua aproximação $\sqrt{1/6}/A$ (linha tracejada laranja) com base na variação $1/12$ distribuição uniforme da largura 1, para várias faixas de $A$.

Uma seleção de opções ideais $A$ são apresentados na Tabela 1, juntamente com o RRMSE resultante, também para alguns outros valores comuns de $A$. Em maiores$m$, A redução de RRMSE pela escolha ideal será marginal. As entradas da tabela, que mostram apenas dígitos iguais entre dois cálculos usando configurações de precisão diferentes, podem ser geradas pelo seguinte script Python (continuação), cuja execução levou dias:

def approx_optimal_A(m):
    m = mp.mpf(m)
    return 2**(m-1) - 1 + mp.mpf("0.156936321399") + mp.exp(-1.2749819017 - 0.3464088917*m)  # Eq. 8
    # return 2**(m-1) - 1  # This less informed guess gives identical results but slower convergence

def to_max_digits(f, prec_1, prec_2, max_digits):  # return the at most max_digits digits of function f that are agreed about by both precision settings
    prec = mp.mp.prec
    mp.mp.prec = prec_1
    y_prec_1 = f()
    mp.mp.prec = prec_2
    y_prec_2 = f()
    digits = max_digits
    while mp.nstr(y_prec_1, digits, strip_zeros=False) != mp.nstr(y_prec_2, digits, strip_zeros=False):  # Beware: a possible infinite loop
        digits -= 1
    return mp.nstr(y_prec_2, digits, strip_zeros=False)
    prec = mp.mp.prec

double_digits = 15  # Print at most this many digits
dB_digits = 9

for m in range(2, 25):
    optimal_A = to_max_digits(lambda: mp.findroot(lambda A: mp.diff(RelMSE, A), approx_optimal_A(m)), 80, 100, double_digits)
    RelMSE_optimal = to_max_digits(lambda: 10*mp.log10(RelMSE(mp.mpf(optimal_A))), 80, 100, dB_digits)
    RelMSE_1 = to_max_digits(lambda: 10*mp.log10(RelMSE(2**(m-1)-1)), 80, 100, dB_digits)
    RelMSE_2 = to_max_digits(lambda: 10*mp.log10(RelMSE(2**(m-1)-0.5)), 80, 100, dB_digits)
    print(str(m)+"&"+optimal_A+"&"+RelMSE_optimal+"&"+RelMSE_1+"&"+RelMSE_2+"\\\\")

Tabela 1. Ótimo $A$ pela definição 1 para diferentes $m\le24$ eo RRMSE resultante, com o RRMSE para algumas escolhas comuns de $A$ listado para comparação. $m=1$foi deixado de fora porque não pode ser tratado pela Eq. 3 e porque um único bit não representa nenhum número positivo como representação de complemento de dois. Observe que RRMSE em dB é convertido em SNR em dB por um sinal de inversão, porque$\mathrm{SNR}$ $=$ $1/\mathrm{RelMSE}$ $=$ $1/\mathrm{RRMSE}^2$.

$$\begin{array}{l|l|lll}m&\text{optimal }A&\rlap{\text{RRMSE (dB)}}&&\\ &&A=\text{optimal}&2^{m-1}-1&2^{m-1}-0.5\\ \hline 2&1.26827949461530&-11.1128053&-8.92729805&-10.1764645\\ 3&3.23800942121037&-18.8206937&-17.9588863&-17.8882004\\ 4&7.21658597929407&-25.5167673&-25.0903048&-24.7375654\\ 5&15.2007181331955&-31.8127094&-31.5775537&-31.2013629\\ 6&31.1888756714257&-37.9364880&-37.7977883&-37.4726954\\ 7&63.1800835394190&-43.9858910&-43.9001114&-43.6414308\\ 8&127.173613625523&-50.0049518&-49.9500053&-49.7527817\\ 9&255.168894736361&-56.0134743&-55.9773382&-55.8307200\\ 10&511.165479188890&-62.0200022&-61.9957638&-61.8884975\\ 11&1023.16302205377&-68.0278661&-68.0113689&-67.9337180\\ 12&2047.16126264484&-74.0380590&-74.0267095&-73.9708981\\ 13&4095.16000722516&-80.0505958&-80.0427267&-80.0028089\\ 14&8191.15911371601&-86.0651409&-86.0596541&-86.0312009\\ 15&16383.1584789666&-92.0812822&-92.0774410&-92.0572079\\ 16&32767.1580286428&-98.0986407&-98.0959437&-98.0815798\\ 17&65535.1577094659&-104.116904&-104.115007&-104.104821\\ 18&131071.157483397&-110.135830&-110.134493&-110.127276\\ 19&262143.157323352&-116.155234&-116.154291&-116.149181\\ 20&524287.157210089&-122.174984&-122.174318&-122.170701\\ 21&1048575.15712995&-128.194979&-128.194509&-128.191950\\ 22&2097151.15707326&-134.215150&-134.214818&-134.213008\\ 23&4194303.15703317&-140.235446&-140.23521&-140.233931\\ 24&8388607.15700481&-146.255831&-146.2557&-146.25476\end{array}$$

Optimalidade por def. 2

Uma função periódica como um senoide quantizado possui uma série de Fourier; é uma soma de sinusóides harmônicos, ou seja, sinusóides de frequências harmônicas de uma frequência fundamental. Sinusóides harmônicos são ortogonais. Portanto, o quadrado médio da função periódica é igual à soma dos quadrados médios dos sinusóides harmônicos. O quadrado médio da soma dos harmônicos não fundamentais pode então ser calculado subtraindo o quadrado médio do fundamental do quadrado médio da função periódica. Para uma onda cosseno quantizada$\mathrm{round}\big(A\cos(x)\big)$ isso permite calcular a distorção harmônica total (THD) como:

$$\mathrm{THD} = \sqrt{\frac{\displaystyle\mathrm{MS} - a_1^2/2}{a_1^2/2}} = \sqrt{\frac{\mathrm{MS}}{a_1^2/2} - 1},\tag{4}$$

onde MS é o quadrado médio da onda cosseno quantizada, $a_1^2/2$ é o quadrado médio do fundamental e $a_1$ é o coeficiente da frequência fundamental cosseno na série Fourier de $\mathrm{round}\big(A\cos(x)\big)$, calculado usando a Eq. 3 da minha resposta a uma pergunta relacionada e simplificando para:

$$a_1 = \frac{2}{\pi A}\left(\mathrm{round}(A)\sqrt{4A^2 - \big(2\,\mathrm{round}(A) - 1\big)^2} + \sum_{k=1}^{\mathrm{round}(A)-1}k\left(\sqrt{4A^2 - (2k - 1)^2} - \sqrt{4A^2 - (2k + 1)^2}\right)\right).\tag{5}$$

O quadrado médio da onda cosseno quantizada é calculado em seu primeiro trimestre por:

$$\mathrm{MS} = \frac{1}{\pi/2}\int_0^{\pi/2}\mathrm{round}\big(A\cos(x)\big)^2dx = \frac{\mathrm{round}(A)^2}{\pi/2}\,\mathrm{acos}\left(\frac{\mathrm{round}(A) - 0.5}{A}\right) + {\frac{1}{\pi/2}\sum_{k=1}^{\mathrm{round}(A) - 1}}k^2\Bigg(\mathrm{acos}\left(\frac{k - 0.5}{A}\right) - \mathrm{acos}\left(\frac{k + 0.5}{A}\right)\Bigg)\tag{6}$$

O THD é calculado e minimizado pelo seguinte script Python (continuação), usando Eqs. 4, 5 e 6:

def a_1(A):
    A = mp.mpf(A)
    return 2*(mp.floor(A + 0.5)*mp.sqrt(4*A**2 - (2*mp.floor(A + 0.5) - 1)**2) + mp.nsum(lambda k: k*(mp.sqrt(4*A**2 - (2*k - 1)**2)-mp.sqrt(4*A**2 - (2*k + 1)**2)), [1, mp.floor(A + 0.5) - 1]))/(mp.pi*A)

def MS(A):
    A = mp.mpf(A)
    return mp.floor(A + 0.5)**2*mp.acos((mp.floor(A + 0.5)-0.5)/A)/(mp.pi/2) + mp.nsum(lambda k: k**2*(mp.acos((k - 0.5)/A) - mp.acos((k + 0.5)/A)), [1, mp.floor(A + 0.5) - 1])/(mp.pi/2)

def STHD(A):  # Square of THD
    MS_1 = a_1(A)**2/2
    return MS(A)/MS_1 - 1

for m in range(2, 25):
    optimal_A = to_max_digits(lambda: mp.findroot(lambda A: mp.diff(STHD, A), approx_optimal_A(m)), 80, 100, double_digits)
    B = to_max_digits(lambda: a_1(mp.mpf(optimal_A)), 80, 100, double_digits)
    THD_optimal = to_max_digits(lambda: 10*mp.log10(STHD(mp.mpf(optimal_A))), 80, 100, dB_digits)
    THD_1 = to_max_digits(lambda: 10*mp.log10(STHD(2**(m-1)-1)), 80, 100, dB_digits)
    THD_2 = to_max_digits(lambda: 10*mp.log10(STHD(2**(m-1)-0.5)), 80, 100, dB_digits)
    print(str(m)+"&"+optimal_A+"&"+B+"&"+THD_optimal+"&"+THD_1+"&"+THD_2+"\\\\")

Figura 2. THD (dB) em função da amplitude não quantificada $A$. Os máximos locais estão em amplitudes que fazem com que uma protrusão estreita apareça nos extremos do sinusóide quantizado.

Figura 3. Amplitude $a_1$ (linha sólida azul) da frequência fundamental na quantização de uma onda cosseno de amplitude $A$, com a linha de identidade (linha tracejada laranja) plotada para referência.

Tabela 2. Ótimo $A$ pela definição 2 para diferentes $m\le24$ eo THD resultante, com o THD para algumas escolhas comuns de $A$listado para comparação. Surpreendentemente, o THD é minimizado pelo mesmo$A$que maximizam o SNR (Tabela 1), também quando testados com uma precisão muito maior do que o mostrado aqui. Se o sinal for considerado um sinusóide de amplitude$a_1$ em vez de amplitude $A$, os valores SNR são obtidos invertendo o sinal dos valores THD.

$$\begin{array}{l|l|l|lll}m&\text{optimal }A&a_1&\rlap{\text{THD (dB)}}&&\\ &&A=\text{optimal}&A=\text{optimal}&2^{m-1}-1&2^{m-1}-0.5\\ \hline 2&1.26827949461530&1.17011951948679&-10.7629578&-10.1492078&-10.5728562\\ 3&3.23800942121037&3.19552705145171&-18.7633376&-18.2533980&-18.3370094\\ 4&7.21658597929407&7.19632525078776&-25.5045573&-25.1895549&-25.0267366\\ 5&15.2007181331955&15.1907044658090&-31.8098475&-31.6159563&-31.3681507\\ 6&31.1888756714257&31.1838597476996&-37.9357894&-37.8138122&-37.5642711\\ 7&63.1800835394190&63.1775601103885&-43.9857175&-43.9071306&-43.6902709\\ 8&127.173613625523&127.172343338577&-50.0049084&-49.9531877&-49.7783344\\ 9&255.168894736361&255.168255766598&-56.0134634&-55.9788184&-55.8439127\\ 10&511.165479188890&511.165158147298&-62.0199994&-61.9964656&-61.8952456\\ 11&1023.16302205377&1023.16286093052&-68.0278654&-68.0117064&-67.9371468\\ 12&2047.16126264484&2047.16118185697&-74.0380588&-74.0268736&-73.9726322\\ 13&4095.16000722516&4095.15996674788&-80.0505958&-80.0428071&-80.0036830\\ 14&8191.15911371601&8191.15909344706&-86.0651409&-86.0596937&-86.0316405\\ 15&16383.1584789666&16383.1584688212&-92.0812822&-92.0774606&-92.0574286\\ 16&32767.1580286428&32767.1580235662&-98.0986407&-98.0959534&-98.0816905\\ 17&65535.1577094659&65535.1577069262&-104.116904&-104.115011&-104.104877\\ 18&131071.157483397&131071.157482127&-110.135830&-110.134495&-110.127304\\ 19&262143.157323352&262143.157322717&-116.155234&-116.154293&-116.149195\\ 20&524287.157210089&524287.157209771&-122.174984&-122.174319&-122.170708\\ 21&1048575.15712995&1048575.15712979&-128.194979&-128.194509&-128.191953\\ 22&2097151.15707326&2097151.15707318&-134.215150&-134.21482&-134.213010\\ 23&4194303.15703317&4194303.15703313&-140.235446&-140.235212&-140.233932\\ 24&8388607.15700481&8388607.15700479&-146.25583&-146.25567&-146.25476\end{array}$$

A equivalência das duas definições de otimização é válida mesmo quando a precisão numérica é aumentada significativamente, aqui com $m=4$ pelo menos até 200 casas decimais, em Python (continuação):

m = 4
mp.mp.dps = 200
mp.findroot(lambda A: mp.diff(RelMSE, A), 2**(m-1)-1+0.157)
mp.findroot(lambda A: mp.diff(STHD, A), 2**(m-1)-1+0.157)

que gera valores ótimos numericamente idênticos para $A$ para as duas definições de otimização:

mpf('7.21658597929406951556806247230383254685067097032105786583650636819627678717747461433940963299310318715204551609940031954265317274195597248077934451075855527')
mpf('7.21658597929406951556806247230383254685067097032105786583650636819627678717747461433940963299310318715204551609940031954265317274195597248077934451075855527')

Limite $m\to\infty$

Em geral $m$ torna-se difícil otimizar diretamente $m$numericamente, então outra abordagem é desejável. Uma aproximação de Taylor do sinusóide em relação ao seu pico, onde mais difere de uma função linear, é um polinômio quadrático. Isso pode ser usado para analisar os efeitos da quantização no limite$m\to\infty$ $\Rightarrow$ $A\to\infty$. A diferença entre o erro de quantização MS de um sinusóide com amplitude$A$ e o erro de quantização MS $1/12$ de uma função linear é proporcional a (Fig. 4):

$$\begin{gather}\mathrm{MS} - \frac{1}{12} \propto f(a) = \int_0^{\sqrt{4a + 2}/2}\left((x^2 - a)^2 - \frac{1}{12}\right)dx + {\sum_{k=1}^{\infty}\int_{\sqrt{4a + 4k - 2}/2}^{\sqrt{4a + 4k + 2}/2}\left((x^2 - a - k)^2 - \frac{1}{12}\right)dx} = \frac{1}{60}\left(\frac{\sqrt{4a + 2}}{16a^2 - 4a - 1} + \sum_{k=1}^\infty\left(\sqrt{4a + 4k + 2}\left(16a^2 + 4a\,(8k - 1) + 16k^2 - 4k - 1\right)\\ - \sqrt{4a + 4k - 2}\left(16a^2 + 4a\,(8k + 1) + 16k^2 + 4k - 1\right)\right)\right),\end{gather}\tag{7}$$

quando a amplitude $A$ é um número inteiro $\to\infty$ mais um número real $-0.5 < a \le 0.5$. A soma na Eq. 7 parece convergir, enquanto deixar de fora o termo$-\frac{1}{12}$ resultaria na seqüência de somas parciais crescendo sem limite, indicando que não importa qual valor de $a$ é escolhido, $\left(\mathrm{MS} - \frac{1}{12}\right)/\mathrm{MS} \to 0$ e $\mathrm{MS} \to \frac{1}{12}$ Como $m\to\infty$.

Figura 4. $f(a)$ e $f'(a)$da Eq. 7. A forma de$f(a)$ parece idêntico ao formato do RRMSE para grandes $m$ na Fig. 1.

Diferenciando simbolicamente $f(a)$definido na Eq. 7 em relação a$a$ (Fig. 4) e encontrando o zero de $f'(a)$ perto $a = 0.157$, o ideal $a$ às $m\to\infty$ pode ser calculado com bastante precisão, em Python (continuação):

def f(a):
    a = mp.mpf(a)
    return (mp.sqrt(4*a + 2)*(16*a**2 - 4*a - 1) + mp.nsum(lambda k: (mp.sqrt(4*a + 4*k + 2)*(16*a**2 + 4*a*(8*k - 1) + 16*k**2 - 4*k - 1) - mp.sqrt(4*a + 4*k - 2)*(16*a**2 + 4*a*(8*k + 1) + 16*k**2 + 4*k - 1)), [1, mp.inf]))/60

def Df(a):  # Derivative of f(a)
    a = mp.mpf(a)
    return mp.sqrt(2)*(16*a**2 + 4*a - 1)/(12*mp.sqrt(2*a + 1)) + mp.nsum(lambda k: (mp.sqrt(4*a + 4*k - 2)*(16*a**2 + 4*a*(8*k + 1) + 16*k**2 + 4*k - 1) - mp.sqrt(4*a + 4*k + 2)*(16*a**2 + 4*a*(8*k - 1) + 16*k**2 - 4*k - 1))/(12*mp.sqrt(2*a + 2*k + 1)*mp.sqrt(2*a + 2*k - 1)), [1, mp.inf])    

to_max_digits(lambda: mp.findroot(lambda a: Df(a), 0.157), 63, 83, double_digits)

que dá $a \approx 0.156936321399$. Isso pode ser usado para criar uma aproximação do melhor$A$ em função de $m$, destinado a grandes $m \ge 20$:

$A \approx 2^{m-1} - 1 + 0.156936321399 + e^{-1.2749819017 - 0.3464088917 m},\tag{8}$

onde os coeficientes no expoente foram calculados por um ajuste linear em $m \in \{21, 22\}$ a uma linearização do ideal $A$ valores da Tabela 1 ou tabela 2. Equivalentemente, o erro ao usar a aproximação é mostrado na Fig. 5.

Figura 5: Erro absoluto na aproximação do valor ótimo $A$pela Eq. 8 em função de$m$. Para$m \in \{21, 22\}$, que foram usados ​​para montagem e para $m \in \{23, 24\}$, o erro absoluto de aproximação foi menor que $10^{-8}$.

Por curiosidade, eu também calculei o pior caso $a$ que fornece o maior erro de quantização do MS, como $m\to\infty$, encontrando o zero de $f'(a)$ perto $a = -0.43$, que acabou por estar em $a \approx -0.433510875868$.

Conclusão

As duas definições de otimalidade parecem equivalentes, à precisão numérica convincente. Como$m\to\infty$, o valor ideal de $A$ aproxima-se aproximadamente $2^{m-1}-1+0.156936321399$ (ou mais precisamente para grandes $m$a aproximação da Eq. 8) e a redução do erro de quantização (por definição 1 SNR ou por definição 2 THD) em dB ao escolher o valor ideal aproxima-se de zero, em comparação com a escolha de outro valor grande, como$A = 2^{m-1}-1$ ou a escolha quase pior dos casos $A = 2^{m-1}-0.5$.

Na amplitude ideal $A$, o sinusóide de mínimos quadrados (LS) tem a mesma frequência e fase que o sinusóide sendo quantizado, mas tem uma amplitude um pouco menor$a_1$dado na Tabela 2. Isso é um pouco contra-intuitivo. Minimizar THD (ou maximizar SNR com o sinusóide sendo aproximado como sinal) de aproximar um sinusóide de amplitude$a_1$ usando uma forma de onda de $m$números de bits com valores no intervalo $-2^{m-1} \ldots 2^{m-1}-1$ que é construído quantizando (arredondando para o número inteiro mais próximo) um sinusóide de amplitude $A$, é preciso escolher o ideal $a_1$ e $A$ que não são iguais.

Os resultados são aplicáveis ​​ao tempo contínuo sem amostragem ou à amostragem no limite $f\to f_s$, Onde $f$ é a frequência sinusóide e $f_s$é a frequência de amostragem. Em geral, a otimização não é preservada por amostragem. A amostragem aleatória com tempos aleatórios das amostras preservará a otimização da SNR da definição 1, se a distribuição da fase senoidal (módulo$2\pi$) nas amostras é uniforme. Além disso, para irracional$f/f_s$, a mesma otimização é preservada pelo mesmo motivo, consulte o teorema da equidistribuição . Definição 1 A otimização do SNR desaparece com o racional$f/f_s$, porque a distribuição das fases sinusóides não será uniforme.