Perguntas com a marcação «neural-networks»

Recentemente, vimos o surgimento da Rede Neural Residual, em que cada camada consiste em um módulo computacional e uma conexão de atalho que preserva a entrada na camada, como mostra a saída da i-ésima camada: A rede permite extrair recursos residuais e permite uma profundidade mais profunda, ao mesmo tempo …

11 machine-learning  neural-networks  deep-learning  gradient-descent  residual-networks 

Eu estava lendo o documento de normalização em lote [1] e tinha uma seção em que é apresentado um exemplo, tentando mostrar por que a normalização deve ser feita com cuidado. Sinceramente, não consigo entender como o exemplo funciona e estou genuinamente muito curioso para entender que eles são tão …

11 machine-learning  neural-networks  conv-neural-network 

Estou usando o feed-forward NN. Eu entendo o conceito, mas minha pergunta é sobre pesos. Como você pode interpretá-los, ou seja, o que eles representam ou como podem ser destruídos (devido aos coeficientes de função)? Eu encontrei algo chamado "espaço de pesos", mas não tenho muita certeza do que isso …

11 neural-networks  weights 

Estou tentando usar uma rede neural para aproximar o valor de Q no aprendizado de Q, como em Perguntas sobre Q-Learning usando redes neurais . Conforme sugerido na primeira resposta, estou usando uma função de ativação linear para a camada de saída, enquanto ainda estou usando a função de ativação …

11 neural-networks  reinforcement-learning 

Estou tendo problemas para entender o modelo de ignorar o algoritmo Word2Vec. Em palavras-chave contínuas, é fácil ver como as palavras de contexto podem "se encaixar" na Rede Neural, uma vez que você as calcula a média depois de multiplicar cada uma das representações de codificação quentes com a matriz …

11 neural-networks  deep-learning  natural-language  word2vec  word-embeddings 

Suponha que eu queira aprender um classificador que use um vetor de números como entrada e dê um rótulo de classe como saída. Meus dados de treinamento consistem em um grande número de pares de entrada e saída. No entanto, quando chego ao teste de alguns dados novos, esses dados …

11 machine-learning  classification  neural-networks  deep-learning 

Estou tentando usar o neuralnetpacote de R (documentação aqui ) para previsão. Aqui o que estou tentando fazer: library(neuralnet) x <- cbind(runif(50, min=1, max=500), runif(50, min=1, max=500)) y <- x[, 1] * x[, 2] train <- data.frame(x, y) n <- names(train) f <- as.formula(paste('y ~', paste(n[!n %in% 'y'], collapse = …

11 r  neural-networks  prediction  error 

Não tenho certeza se isso é apropriado para este site, mas estou começando meu MSE em ciência da computação (bacharelado em matemática aplicada) e quero ter uma sólida experiência em aprendizado de máquina (provavelmente vou fazer um doutorado). Um dos meus subinteresses é redes neurais. Qual é uma boa base …

11 machine-learning  neural-networks  mathematical-statistics  references 

Estou lutando para fazer a conexão matemática entre uma rede neural e um modelo gráfico. Nos modelos gráficos, a ideia é simples: a distribuição de probabilidade é fatorada de acordo com as cliques no gráfico, com os potenciais sendo geralmente da família exponencial. Existe um raciocínio equivalente para uma rede …

11 neural-networks  markov-process  graphical-model  deep-learning  deep-belief-networks 

Eu queria saber se, em algumas circunstâncias, é possível que a ANN funcione melhor se você remover algumas conexões com elas, como por exemplo: Construindo uma RNA, tomando duas RNAs A e B de várias camadas em paralelo (mesmos nós de entrada e saída) adicionando algumas conexões de "comunicação" entre …

11 classification  neural-networks 

Estou começando com um aprendizado profundo e tenho uma pergunta cuja resposta não consegui encontrar, talvez não tenha pesquisado corretamente. Eu já vi essa resposta , mas ainda não está claro qual é a perda de queda de peso e como ela está relacionada à função de perda.

11 neural-networks  conv-neural-network 

A ideia por trás da Rede Neural Recorrente (RNN) é clara para mim. Entendo da seguinte maneira: Temos uma sequência de observações ( ) (ou, em outras palavras, séries temporais multivariadas). Cada observação única é um vetor numérico dimensional. No modelo RNN, assumimos que a próxima observação é uma função …

11 time-series  neural-networks  predictive-models  intuition  rnn 

Como posso calcular o número de parâmetros em uma rede neural artificial para calcular sua AIC?

11 neural-networks  aic 

Entendo que as redes neurais (NNs) podem ser consideradas aproximadores universais de ambas as funções e suas derivadas, sob certas premissas (tanto na rede quanto na função de aproximação). De fato, eu fiz vários testes em funções simples, mas não triviais (por exemplo, polinômios), e parece que eu posso realmente …

11 machine-learning  neural-networks  function  derivative 

Ao implementar um autoencoder com rede neural, a maioria das pessoas usará sigmóide como função de ativação. Podemos usar ReLU? (Como a ReLU não tem limite no limite superior, basicamente significa que a imagem de entrada pode ter um pixel maior que 1, diferente dos critérios restritos para o autoencoder …

11 machine-learning  neural-networks  deep-learning  autoencoders