O que é o erro Bayes no aprendizado de máquina?

http://www.deeplearningbook.org/contents/ml.html página 116 explica o erro de bayes como abaixo

O modelo ideal é um oráculo que simplesmente conhece a verdadeira distribuição de probabilidade que gera os dados. Mesmo esse modelo ainda apresentará algum erro em muitos problemas, porque ainda pode haver algum ruído na distribuição. No caso de aprendizado supervisionado, o mapeamento de x para y pode ser inerentemente estocástico, ou y pode ser uma função determinística que envolve outras variáveis ​​além daquelas incluídas em x. O erro incorrido por um oráculo que faz previsões a partir da distribuição verdadeira p (x, y) é chamado de erro de Bayes.

Questões

1. Por favor, explique o erro de Bayes intuitivamente?
2. Como é diferente de erro irredutível?
3. Posso dizer erro total = erro de Bias + Variação + Bayes?
4. Qual é o significado de "y pode ser inerentemente estocástico"?

$y$

Por exemplo, ao jogar uma moeda justa, sabemos exatamente qual processo gera o resultado (uma distribuição binomial). No entanto, se prevíssemos o resultado de uma série de lançamentos de moedas, ainda cometeríamos erros, porque o processo é inerentemente aleatório (isto é, estocástico).

Para responder sua outra pergunta, você está correto ao afirmar que o erro total é a soma do viés (quadrado), variação e erro irredutível. Consulte também este artigo para obter uma explicação fácil de entender desses três conceitos.

De https://www.cs.helsinki.fi/u/jkivinen/opetus/iml/2013/Bayes.pdf . Para tarefa de classificação, o erro de bayes é definido como:

$min_f=Cost(f)$

$argmin_f=Cost(f)$

$\not\equiv$

$y=f(x)=sin(x)$$\tilde{y}=y+t$$t\sim N(0, \sigma^2)$