Perguntas com a marcação «autoencoders»

Pesquisei no Google, Wikipedia, Google Scholar e mais, mas não consegui encontrar a origem dos Autoencoders. Talvez seja um desses conceitos que evoluiu muito gradualmente, e é impossível traçar um ponto de partida claro, mas ainda assim eu gostaria de encontrar algum tipo de resumo das principais etapas de seu …

13 neural-networks  autoencoders  history 

Tanto quanto eu sei, os autoencoders e o t-SNE são usados ​​para redução de dimensionalidade não linear. Quais são as diferenças entre eles e por que devo usar um contra o outro?

12 neural-networks  deep-learning  dimensionality-reduction  autoencoders  tsne 

Ao implementar um autoencoder com rede neural, a maioria das pessoas usará sigmóide como função de ativação. Podemos usar ReLU? (Como a ReLU não tem limite no limite superior, basicamente significa que a imagem de entrada pode ter um pixel maior que 1, diferente dos critérios restritos para o autoencoder …

11 machine-learning  neural-networks  deep-learning  autoencoders 

Estou treinando um autoencoder variacional condicional em um conjunto de dados de faces. Quando eu defino minha Perda de KLL igual ao meu termo de Perda de reconstrução, meu autoencoder parece incapaz de produzir amostras variadas. Eu sempre recebo os mesmos tipos de rosto aparecendo: Essas amostras são terríveis. No …

11 machine-learning  computer-vision  autoencoders 

Estou implementando um VAE e notei duas implementações diferentes on-line da divergência simplificada univariada de KL gaussiana. A divergência original conforme aqui é Se assumirmos que nosso prior é uma unidade gaussiana, ou seja, e , isso simplifica para E aqui é onde está minha confusão. Embora eu tenha encontrado …

10 inference  kullback-leibler  autoencoders  variational-bayes 

As redes de codificadores automáticos parecem ser muito mais complicadas do que as redes MLP classificadoras normais. Depois de várias tentativas usando Lasagne, tudo o que recebo na saída reconstruída é algo que se assemelha, na melhor das hipóteses, a uma média borrada de todas as imagens do banco de …

9 machine-learning  neural-networks  dimensionality-reduction  unsupervised-learning  autoencoders 

Na CNN, aprenderemos filtros para produzir um mapa de características na camada convolucional. No Autoencoder, a única unidade oculta de cada camada pode ser considerada como filtro. Qual a diferença entre os filtros aprendidos nessas duas redes?

9 machine-learning  neural-networks  conv-neural-network  autoencoders 

Um autoencoder variacional (VAE) fornece uma maneira de aprender a distribuição de probabilidade relacionando uma entrada à sua representação latente . Em particular, o codificador mapeia uma entrada para uma distribuição em . Um codificador típico produzirá parâmetros , representando a distribuição gaussiana ; essa distribuição é usada como nossa …

9 neural-networks  deep-learning  autoencoders  variational-bayes 

É possível obter resultados de última geração usando apenas a propagação traseira (sem pré-treinamento )? Ou será que todas as abordagens de quebra de recordes usam alguma forma de pré-treinamento? A propagação traseira é boa o suficiente?

8 deep-learning  autoencoders  deep-belief-networks  pre-training 

Acabei de começar a usar o pacote de autoencoder em R. As entradas para a autoencode()função incluem lambda, beta, rho e epsilon. Quais são os limites para esses valores? Eles variam para cada função de ativação? Esses parâmetros são chamados de "hiperparâmetros"? Supondo que um autoencoder esparso, rho = 0,01 …

8 neural-networks  optimization  deep-learning  deep-belief-networks  autoencoders 

Toda arquitetura de autoencoder que eu vi tem uma arquitetura semelhante, principalmente porque o decodificador é exatamente o inverso do codificador. Se o objetivo do autoencodificador é o aprendizado de recursos de baixa dimensão, por que o decodificador não é simples? Um exemplo seria uma transformação linear onde é uma …

7 neural-networks  dimensionality-reduction  autoencoders 

Com base no meu entendimento, os auto-codificadores são usados ​​para encontrar uma representação compacta dos recursos de entrada que carregam as informações subjacentes essenciais. Existe alguma relação entre as distâncias L2 no espaço de entrada original e o espaço reduzido (compacto)? Caso contrário, posso treinar a rede de modo que …

7 neural-networks  dimensionality-reduction  distance  autoencoders 

Pelo que entendi, existem três abordagens principais para a redução não linear da dimensionalidade: Aprendizagem múltipla (algoritmos geométricos / topológicos como ISOMAP, LLE, LTSA) Autoencoders coisas que não se encaixam nas duas primeiras categorias (t-SNE inspirado em probabilidade, Kernel PCA, etc.) Quais são os benefícios e as desvantagens das duas …

7 machine-learning  deep-learning  dimensionality-reduction  autoencoders  manifold-learning