Perguntas com a marcação «conv-neural-network»

Se eu tenho uma rede neural convolucional (CNN), que possui cerca de 1.000.000 de parâmetros, quantos dados de treinamento são necessários (suponha que eu esteja fazendo descida estocástica do gradiente)? Existe alguma regra de ouro? Notas adicionais: Quando realizei descida de gradiente estocástico (por exemplo, 64 amostras para 1 iteração), …

14 machine-learning  neural-networks  deep-learning  conv-neural-network 

Eu vi um termo "permutação invariável" versão da tarefa de reconhecimento de dígitos MNIST. O que isso significa?

14 machine-learning  neural-networks  terminology  conv-neural-network  definition 

Em alguns tutoriais, constatei que a inicialização do peso "Xavier" (artigo: Entendendo a dificuldade de treinar redes neurais profundas de avanço ) é uma maneira eficiente de inicializar os pesos das redes neurais. Para camadas totalmente conectadas, havia uma regra prática nesses tutoriais: Var(W)=2nin+nout,simpler alternative:Var(W)=1ninVar(W)=2nin+nout,simpler alternative:Var(W)=1ninVar(W) = \frac{2}{n_{in} + n_{out}}, …

14 normal-distribution  variance  neural-networks  conv-neural-network 

O teorema da aproximação universal é um resultado bastante famoso para redes neurais, basicamente afirmando que, sob algumas suposições, uma função pode ser uniformemente aproximada por uma rede neural com precisão. Existe algum resultado análogo que se aplica às redes neurais convolucionais?

14 neural-networks  conv-neural-network  approximation 

A topologia do modelo do Google Inception pode ser encontrada aqui: Google Inception Netowrk Percebi que há 3 camadas de softmax neste modelo (# 154, # 152, # 145) e duas delas são algum tipo de fuga precoce desse modelo. Pelo que sei, a camada softmax é para saída final, …

13 deep-learning  conv-neural-network 

É possível ter pesos negativos (após épocas suficientes) para redes neurais convolucionais profundas quando usamos ReLU para todas as camadas de ativação?

13 machine-learning  neural-networks  deep-learning  conv-neural-network 

Fechadas. Esta questão está fora de tópico . No momento, não está aceitando respostas. Deseja melhorar esta pergunta? Atualize a pergunta para que ela esteja no tópico de Validação cruzada. Fechado há 9 meses . Eu sei que existem muitas bibliotecas para aprendizado de máquina e aprendizado profundo como caffe, …

13 neural-networks  deep-learning  conv-neural-network 

Aqui está um exemplo de código keras que o usa: from keras.constraints import max_norm model.add(Convolution2D(32, 3, 3, input_shape=(3, 32, 32), border_mode='same', activation='relu', kernel_constraint=max_norm(3)))

12 neural-networks  regularization  conv-neural-network  optimization 

Os termos "upsampling" e "transpose convolution" são usados ​​quando você está executando "deconvolution" (<- não é um bom termo, mas deixe-me usá-lo aqui). Originalmente, eu pensava que eles significam a mesma coisa, mas parece-me que eles são diferentes depois de ler esses artigos. alguém pode esclarecer? Convolução de transposição : …

12 machine-learning  neural-networks  conv-neural-network  transposed-convolution 

Eu estava lendo o artigo Deep Residual Learning for Image Reconhecimento e tive dificuldades em entender com 100% de certeza o que um bloco residual implica computacionalmente. Lendo o trabalho deles, eles têm a figura 2: que ilustra o que um bloco residual é suposto ser. O cálculo de um …

12 machine-learning  neural-networks  deep-learning  conv-neural-network  residual-networks 

Lendo Aproximando- me das convoluções , deparei-me com uma camada DepthConcat , um componente dos módulos de criação propostos , que combina a saída de vários tensores de tamanhos variados. Os autores chamam isso de "concatenação de filtro". Parece haver uma implementação para o Torch , mas eu realmente não …

12 neural-networks  torch  conv-neural-network 

Estive assistindo as palestras CS231N de Stanford e estou tentando entender alguns problemas nas arquiteturas da CNN. O que estou tentando entender é se existem algumas diretrizes gerais para escolher o tamanho do filtro de convolução e coisas como avanços ou isso é mais uma arte do que uma ciência? …

12 neural-networks  deep-learning  conv-neural-network 

Estou estudando e tentando implementar redes neurais convolucionais, mas suponho que essa pergunta se aplique aos perceptrons multicamadas em geral. Os neurônios de saída em minha rede representam a ativação de cada classe: o neurônio mais ativo corresponde à classe prevista para uma determinada entrada. Para considerar um custo de …

12 neural-networks  deep-learning  conv-neural-network  nonlinear  softmax 

Eu quero usar o aprendizado profundo para treinar uma detecção binária de face / sem face, que perda devo usar, acho que é SigmoidCrossEntropyLoss ou perda de dobradiça . Está certo, mas também gostaria de usar o softmax, mas com apenas duas classes?

11 deep-learning  loss-functions  computer-vision  conv-neural-network 

Pelo meu entendimento, as CNNs consistem em duas partes. A primeira parte (camadas conv / pool) que faz a extração do recurso e a segunda parte (camadas fc) que faz a classificação dos recursos. Como as redes neurais totalmente conectadas não são os melhores classificadores (ou seja, elas são superadas …

11 neural-networks  svm  random-forest  conv-neural-network