Qual é a diferença entre Bayes variacionais de codificação automática e retropropagação estocástica para modelos geradores profundos ? A inferência nos dois métodos leva aos mesmos resultados? Não conheço nenhuma comparação explícita entre os dois métodos, apesar de ambos os grupos de autores se citarem.
Respostas:
A retropropagação estocástica e a inferência aproximada em modelos geradores profundos parecem considerar apenas uma implementação um pouco mais geral das mesmas idéias. Comparado com o documento VAE, eles:
propor vários conjuntos de variáveis latentes, em oposição ao VAE, que possui apenas um
considere posteriores gaussianos não diagonais, o que dificulta a otimização