Perguntas com a marcação «deep-learning»

Estou lutando para fazer a conexão matemática entre uma rede neural e um modelo gráfico. Nos modelos gráficos, a ideia é simples: a distribuição de probabilidade é fatorada de acordo com as cliques no gráfico, com os potenciais sendo geralmente da família exponencial. Existe um raciocínio equivalente para uma rede …

11 neural-networks  markov-process  graphical-model  deep-learning  deep-belief-networks 

Estou interessado em (Deep) Reinforcement Learning (RL) . Antes de mergulhar neste campo, devo fazer um curso em Teoria dos Jogos (GT) ? Como o GT e o RL estão relacionados?

11 deep-learning  reinforcement-learning  game-theory 

Como os mapas de ativação em uma determinada camada são conectados aos filtros dessa camada? Não estou perguntando sobre como fazer uma operação convolucional entre o filtro e o mapa de ativação, estou perguntando sobre o tipo de conectividade que esses dois possuem. Por exemplo, digamos que você queira fazer …

11 machine-learning  deep-learning  conv-neural-network 

Ao implementar um autoencoder com rede neural, a maioria das pessoas usará sigmóide como função de ativação. Podemos usar ReLU? (Como a ReLU não tem limite no limite superior, basicamente significa que a imagem de entrada pode ter um pixel maior que 1, diferente dos critérios restritos para o autoencoder …

11 machine-learning  neural-networks  deep-learning  autoencoders 

Eu estava implementando um artigo bastante popular " EXPLICANDO E APRENDENDO EXEMPLOS ADVERSÁRIOS " e, no artigo, ele treina uma função objetiva adversária J '' (θ) = αJ (θ) + (1 - α) J '(θ). Ele trata α como um hiperparâmetro. α pode ser 0,1, 0,2, 0,3, etc. Independentemente deste …

11 machine-learning  neural-networks  deep-learning  hyperparameter 

Eu não acho que possa haver uma resposta para todos os modelos de aprendizado profundo. Quais dos modelos de aprendizagem profunda são paramétricos e quais não paramétricos e por quê?

11 neural-networks  deep-learning  nonparametric  parametric 

Qual é a diferença entre Bayes variacionais de codificação automática e retropropagação estocástica para modelos geradores profundos ? A inferência nos dois métodos leva aos mesmos resultados? Não conheço nenhuma comparação explícita entre os dois métodos, apesar de ambos os grupos de autores se citarem.

10 deep-learning  inference  latent-variable  variational-bayes  sgd 

Estou trabalhando no artigo de Cho 2014 , que introduziu a arquitetura codificador-decodificador para modelagem seq2seq. No artigo, eles parecem usar a probabilidade da saída fornecida (ou é uma probabilidade negativa de log) como a função de perda para uma entrada de comprimento e saída de comprimento :xxxMMMyyyNNN P(y1,…,yN|x1,…,xM)=P(y1|x1,…,xm)P(y2|y1,x1,…,xm)…P(yN|y1,…,yN−1,x1,…,xm)P(y1,…,yN|x1,…,xM)=P(y1|x1,…,xm)P(y2|y1,x1,…,xm)…P(yN|y1,…,yN−1,x1,…,xm)P(y_1, …, …

10 deep-learning  loss-functions  rnn 

Em termos da diferença entre rede neural e aprendizado profundo, podemos listar vários itens, como mais camadas incluídas, conjunto de dados massivo, hardware de computador poderoso para tornar possível o modelo complicado de treinamento. Além dessas, existem explicações mais detalhadas sobre a diferença entre NN e DL?

10 machine-learning  neural-networks  deep-learning  conv-neural-network  deep-belief-networks 

Existe alguma regra prática entre a profundidade de uma rede neural e a taxa de aprendizado? Tenho notado que quanto mais profunda a rede, menor a taxa de aprendizado. Se isso está correto, por que isso?

10 neural-networks  deep-learning  hyperparameter  rule-of-thumb 

É possível treinar redes neurais para desenhar em determinado estilo? (Por isso, ele pega uma imagem e a redesenha no estilo para o qual foi treinada.) Existe alguma tecnologia aprovada para esse tipo de coisa? Eu sei sobre o algoritmo DeepArt. É bom preencher a imagem principal com certo padrão …

10 machine-learning  neural-networks  deep-learning 

Quando alguém deseja executar um recorte gradiente ao treinar uma RNN ou CNN? Estou especialmente interessado neste último. Qual seria um bom valor inicial para recorte? (é claro que pode ser ajustado)

10 deep-learning 

Na tarefa de visão computacional, como a classificação de objetos, com as Redes Neurais Convolucionais (CNN), a rede oferece um desempenho atraente. Mas não tenho certeza de como configurar os parâmetros em camadas convolucionais. Por exemplo, uma imagem em escala de cinza ( 480x480), a primeira camada convolucional pode usar …

10 neural-networks  deep-learning  conv-neural-network  computer-vision 

No recente artigo da WaveNet , os autores se referem ao seu modelo como tendo camadas empilhadas de convoluções dilatadas. Eles também produzem os gráficos a seguir, explicando a diferença entre convoluções 'regulares' e convoluções dilatadas. As convoluções regulares se parecem com Esta é uma convolução com um tamanho de …

10 neural-networks  deep-learning  conv-neural-network  tensorflow 

No artigo Faster RCNN, ao falar sobre ancoragem, o que eles significam usando "pirâmides de caixas de referência" e como isso é feito? Isso significa apenas que em cada um dos pontos de ancoragem W * H * k é gerada uma caixa delimitadora? Onde W = largura, H = …

10 deep-learning  computer-vision