Perguntas com a marcação «conv-neural-network»

Estou aprendendo sobre o aprendizado profundo (especificamente CNNs) e como normalmente exige uma enorme quantidade de dados para evitar o ajuste excessivo. No entanto, também me disseram que quanto maior a capacidade / mais parâmetros de um modelo, mais dados são necessários para evitar o ajuste excessivo. Portanto, minha pergunta …

9 machine-learning  neural-networks  deep-learning  conv-neural-network 

Entendo como funciona a convolução, mas não entendo como as convoluções 1D são aplicadas aos dados 2D. Neste exemplo, você pode ver uma convolução 2D em dados 2D. Mas como seria se houvesse uma convolução em 1D? Apenas um kernel 1D deslizando da mesma maneira? E se o passo fosse …

9 conv-neural-network 

Estou tentando entender melhor os campos receptivos da CNN. Para fazer isso, gostaria de calcular o campo receptivo de cada neurônio no LeNet. Para um MLP normal, é bastante fácil (consulte http://deeplearning.net/tutorial/lenet.html#sparse-connectivity ), mas é mais difícil calcular o campo receptivo de um neurônio em uma camada após uma ou …

9 deep-learning  conv-neural-network 

Na CNN, aprenderemos filtros para produzir um mapa de características na camada convolucional. No Autoencoder, a única unidade oculta de cada camada pode ser considerada como filtro. Qual a diferença entre os filtros aprendidos nessas duas redes?

9 machine-learning  neural-networks  conv-neural-network  autoencoders 

Estou usando o modelo pré-treinado de Rede Neural Convolucional do TensorFlow. https://github.com/tensorflow/models/blob/master/slim/nets/resnet_v2.py#L130 Encontrei a seguinte frase: No entanto, para tarefas de previsão densa, recomendamos que se use entradas com dimensões espaciais que são múltiplos de 32 mais 1, por exemplo, [321, 321]. Alguém sabe o que é previsão densa nesta …

9 neural-networks  conv-neural-network 

Qual é a diferença entre as camadas conv e FC ? Por que não consigo usar as camadas conv em vez das camadas FC ?

9 neural-networks  conv-neural-network  convolution 

Entendo que o abandono é usado para reduzir o excesso de adaptação na rede. Esta é uma técnica de generalização. Na rede neural convolucional, como posso identificar o sobreajuste? Uma situação em que consigo pensar é quando obtenho uma precisão de treinamento muito alta em comparação à precisão de teste …

9 machine-learning  overfitting  conv-neural-network  dropout 

É bastante intuitivo que a maioria das arquiteturas / topologias de redes neurais não seja identificável. Mas quais são alguns resultados bem conhecidos no campo? Existem condições simples que permitem / impedem a identificação? Por exemplo, todas as redes com funções de ativação não lineares e mais de uma camada …

8 neural-networks  conv-neural-network  rnn  identifiability 

Eu queria treinar uma rede com não linearidades que sofrem com o desaparecimento (ou o problema do gradiente explodindo, embora principalmente o desaparecimento). Sei que a maneira padrão (atual) é usar a normalização de lote 1 [BN] 1 ou simplesmente abandonar a não linearidade e usar as unidades ReLu Rectifier …

8 machine-learning  neural-networks  conv-neural-network  batch-normalization 

Em geral, devo treinar minha rede neural com menos neurônios, para que ela tenha menos neurônios ReLU mortos? Eu li opiniões conflitantes sobre ReLUs mortos. Algumas fontes dizem que ReLUs mortos são bons porque incentivam a escarsidade. Outros dizem que são ruins porque as RELUs mortas estão mortas para sempre …

8 machine-learning  neural-networks  conv-neural-network 

Eu fiz uma rede neural convolucional e queria verificar se meus gradientes estão sendo calculados corretamente usando a verificação numérica de gradiente. A questão é, quão perto está o suficiente? Minha função de verificação apenas cospe a derivada calculada, a derivada numericamente aproximada, a diferença entre os dois e se …

8 neural-networks  conv-neural-network  gradient 

No artigo da rede neural totalmente convolucional , os autores mencionam tanto o treinamento inteligente quanto o treinamento totalmente convolucional. Meu entendimento para a construção do conjunto de treinamento é o seguinte: Dada uma M*Mimagem, extraia as sub-imagens com N*N, where ( N<M). As sub-imagens selecionadas são sobrepostas com outras. …

8 machine-learning  deep-learning  data-mining  conv-neural-network  computer-vision 

Estou interessado em entender qual arquitetura de rede neural é atualmente o estado da arte (às vezes abreviado como "SOTA") com relação às tarefas de classificação de imagem padrão, como MNIST, STLN-10 e CIFAR. Isso é desafiador porque novos resultados são publicados com frequência e pode ser difícil acompanhar. Existe …

7 neural-networks  references  conv-neural-network 

Eu tenho lido uma pilha de papéis sobre redes convolucionais e aprendizado por reforço. Lembro-me de ver um papel importante com uma forma não retangular da camada de convolução (a forma verde neste desenho bobo). Mas agora não consigo encontrá-lo. Pode ter sido algo semelhante ao artigo AlphaGo ou aprendizado …

7 references  conv-neural-network  reinforcement-learning 

A rede neural conhecida como " U-Net " (Ronneberger, Fischer e Brox 2015) foi uma técnica proeminente no recente concurso de Segmentação de Nervos por Ultrassom da Kaggle , onde pontuações altas foram atribuídas a algoritmos que criaram máscaras de pixel com alto grau de sobreposição. as regiões desenhadas à …

7 neural-networks  deep-learning  biostatistics  conv-neural-network  image-processing