Perguntas com a marcação «neural-network»

A pergunta original era especificamente com relação às implementações do TensorFlow. No entanto, as respostas são para implementações em geral. Essa resposta geral também é a resposta correta para o TensorFlow. Ao usar normalização em lote e dropout no TensorFlow (especificamente usando contrib.layers), preciso me preocupar com o pedido? Parece …

116 python  neural-network  tensorflow  conv-neural-network 

Estou tentando entender o argumento de passos em tf.nn.avg_pool, tf.nn.max_pool, tf.nn.conv2d. A documentação diz repetidamente strides: Uma lista de ints que tem comprimento> = 4. A passada da janela deslizante para cada dimensão do tensor de entrada. Minhas perguntas são: O que cada um dos 4+ inteiros representam? Por que …

115 python  neural-network  convolution  tensorflow  conv-neural-network 

Estou lendo a documentação do PyTorch e encontrei um exemplo onde eles escrevem gradients = torch.FloatTensor([0.1, 1.0, 0.0001]) y.backward(gradients) print(x.grad) onde x era uma variável inicial, a partir da qual y foi construído (um 3-vetor). A questão é: quais são os argumentos de 0,1, 1,0 e 0,0001 do tensor de …

112 neural-network  gradient  pytorch  torch  gradient-descent 

Recentemente, encontrei tf.nn.sparse_softmax_cross_entropy_with_logits e não consigo descobrir qual é a diferença em comparação com tf.nn.softmax_cross_entropy_with_logits . É a única diferença que os vetores de treinamento yprecisam ser codificados em um ponto ao usar sparse_softmax_cross_entropy_with_logits? Lendo a API, não consegui encontrar nenhuma outra diferença em comparação com softmax_cross_entropy_with_logits. Mas então por …

111 neural-network  tensorflow  softmax  cross-entropy 

Fechadas. Esta pergunta não atende às diretrizes do Stack Overflow . Atualmente não está aceitando respostas. Quer melhorar esta questão? Atualize a pergunta para que esteja no tópico do Stack Overflow. Fechado há 6 anos . Melhore esta questão Estou muito interessado em Redes Neurais Artificiais, mas estou procurando um …

109 neural-network 

Tento entender os LSTMs e como construí-los com Keras. Eu descobri que existem principalmente os 4 modos de executar um RNN (os 4 certos na foto) Fonte da imagem: Andrej Karpathy Agora eu me pergunto como um trecho de código minimalista para cada um deles ficaria em Keras. Então algo …

108 machine-learning  neural-network  deep-learning  keras  recurrent-neural-network 

Estou tentando entender o papel da Flattenfunção em Keras. Abaixo está meu código, que é uma rede simples de duas camadas. Ele recebe dados bidimensionais de forma (3, 2) e produz dados unidimensionais de forma (1, 4): model = Sequential() model.add(Dense(16, input_shape=(3, 2))) model.add(Activation('relu')) model.add(Flatten()) model.add(Dense(4)) model.compile(loss='mean_squared_error', optimizer='SGD') x = …

108 machine-learning  tensorflow  neural-network  deep-learning  keras 

Como inicializar os pesos e vieses (por exemplo, com inicialização de He ou Xavier) em uma rede em PyTorch?

106 python  neural-network  deep-learning  pytorch 

Fechadas. Esta pergunta não atende às diretrizes do Stack Overflow . Atualmente não está aceitando respostas. Quer melhorar esta questão? Atualize a pergunta para que esteja no tópico do Stack Overflow. Fechado há 3 dias . Melhore esta questão Estou tentando construir uma rede neural do zero. Em toda a …

105 machine-learning  neural-network  artificial-intelligence  mathematical-optimization  gradient-descent 

Se tivermos 10 autovetores, então podemos ter 10 nós neurais na camada de entrada. Se tivermos 5 classes de saída, então podemos ter 5 nós na camada de saída. Mas qual é o critério para escolher o número de camadas ocultas em um MLP e quantas nós em 1 camada …

104 machine-learning  neural-network  deep-learning  perceptron 

Eu queria saber se seria possível salvar um modelo Keras parcialmente treinado e continuar o treinamento após carregar o modelo novamente. A razão para isso é que terei mais dados de treinamento no futuro e não quero treinar todo o modelo novamente. As funções que estou usando são: #Partly train …

95 python  tensorflow  neural-network  keras  resuming-training 

Descobri em muitos códigos de rede neural disponíveis implementados usando o TensorFlow que os termos de regularização são frequentemente implementados adicionando manualmente um termo adicional ao valor de perda. Minhas perguntas são: Existe uma maneira mais elegante ou recomendada de regularização do que manualmente? Eu também acho que isso get_variabletem …

94 python  neural-network  tensorflow  deep-learning 

Eu estava examinando este exemplo de um modelo de linguagem LSTM no github (link) . O que ele faz em geral é bastante claro para mim. Mas ainda estou lutando para entender o que a chamada contiguous()faz, o que ocorre várias vezes no código. Por exemplo, na linha 74/75 da …

94 neural-network  deep-learning  lstm  pytorch  contiguous 

Tenho um exemplo de rede neural com duas camadas. A primeira camada leva dois argumentos e tem uma saída. O segundo deve receber um argumento como resultado da primeira camada e um argumento adicional. Deve ser assim: x1 x2 x3 \ / / y1 / \ / y2 Então, criei …

93 python  machine-learning  keras  neural-network 

Percebi que uma ocorrência frequente durante o treinamento está NANsendo introduzida. Freqüentemente, parece ser introduzido por pesos em camadas de produto interno / totalmente conectadas ou de convolução explodindo. Isso está ocorrendo porque o cálculo do gradiente está explodindo? Ou é por causa da inicialização do peso (em caso afirmativo, …

86 machine-learning  neural-network  deep-learning  caffe  gradient-descent