Perguntas com a marcação «deep-learning»

Qual é a diferença entre época e iteração ao treinar um perceptron de várias camadas?

413 machine-learning  neural-network  deep-learning  artificial-intelligence  terminology 

Estou tentando reconciliar meu entendimento dos LSTMs e apontado aqui neste post por Christopher Olah implementado no Keras. Estou seguindo o blog escrito por Jason Brownlee para o tutorial de Keras. O que mais me deixa confuso é, A remodelagem das séries de dados em [samples, time steps, features]e, Os …

311 python  deep-learning  keras  lstm 

Qual é a diferença entre o preenchimento 'SAME' e 'VALID' em tf.nn.max_poolof tensorflow? Na minha opinião, 'VÁLIDO' significa que não haverá preenchimento zero fora das bordas quando fazemos o pool máximo. De acordo com um guia de aritmética de convolução para aprendizado profundo , ele diz que não haverá preenchimento …

309 python  tensorflow  deep-learning 

Para qualquer camada Keras ( Layerclasse), alguém pode explicar como entender a diferença entre input_shape, units, dim, etc.? Por exemplo, o documento diz unitsespecificar a forma de saída de uma camada. Na imagem da rede neural abaixo hidden layer1tem 4 unidades. Isso se traduz diretamente no unitsatributo do Layerobjeto? Ou …

262 neural-network  deep-learning  keras  keras-layer  tensor 

Na função TensorFlow a seguir, devemos alimentar a ativação de neurônios artificiais na camada final. Isso eu entendo. Mas não entendo por que é chamado logits? Isso não é uma função matemática? loss_function = tf.nn.softmax_cross_entropy_with_logits( logits = last_layer, labels = target_output )

250 tensorflow  machine-learning  neural-network  deep-learning  cross-entropy 

Quando eu treinei minha rede neural com Theano ou Tensorflow, eles reportarão uma variável chamada "perda" por época. Como devo interpretar essa variável? Maior perda é melhor ou pior, ou o que isso significa para o desempenho final (precisão) da minha rede neural?

201 machine-learning  neural-network  mathematical-optimization  deep-learning  objective-function 

Eu estava procurando maneiras alternativas de salvar um modelo treinado no PyTorch. Até agora, encontrei duas alternativas. torch.save () para salvar um modelo e torch.load () para carregar um modelo. model.state_dict () para salvar um modelo treinado e model.load_state_dict () para carregar o modelo salvo. Eu me deparei com essa …

192 python  serialization  deep-learning  pytorch  tensor 

Estou tentando treinar uma CNN para categorizar o texto por tópico. Quando uso entropia cruzada binária, obtenho ~ 80% de precisão, com entropia cruzada categórica recebo ~ 50% de precisão. Eu não entendo por que isso é. É um problema multiclasse, isso não significa que eu tenho que usar entropia …

160 machine-learning  keras  neural-network  deep-learning  conv-neural-network 

tf.nn.embedding_lookup(params, ids, partition_strategy='mod', name=None) Não consigo entender o dever dessa função. É como uma tabela de pesquisa? O que significa retornar os parâmetros correspondentes a cada ID (em IDs)? Por exemplo, no skip-grammodelo se usarmos tf.nn.embedding_lookup(embeddings, train_inputs), então para cada train_inputum deles ele encontrará a incorporação correspondente?

158 python  tensorflow  deep-learning  word-embedding  natural-language-processing 

Treinei um modelo de classificação binária com a CNN, e aqui está o meu código model = Sequential() model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1], border_mode='valid', input_shape=input_shape)) model.add(Activation('relu')) model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1])) model.add(Activation('relu')) model.add(MaxPooling2D(pool_size=pool_size)) # (16, 16, 32) model.add(Convolution2D(nb_filters*2, kernel_size[0], kernel_size[1])) model.add(Activation('relu')) model.add(Convolution2D(nb_filters*2, kernel_size[0], kernel_size[1])) model.add(Activation('relu')) model.add(MaxPooling2D(pool_size=pool_size)) # (8, 8, 64) = (2048) model.add(Flatten()) model.add(Dense(1024)) …

155 python  tensorflow  deep-learning  keras 

Eu tenho lido algumas coisas em redes neurais e entendo o princípio geral de uma rede neural de camada única. Entendo a necessidade de camadas adicionais, mas por que as funções de ativação não linear são usadas? Esta pergunta é seguida por esta: O que é um derivado da função …

139 math  machine-learning  neural-network  deep-learning 

Alguém pode explicar claramente a diferença entre as convoluções 1D, 2D e 3D nas redes neurais convolucionais (na aprendizagem profunda) com o uso de exemplos?

126 machine-learning  deep-learning  signal-processing  conv-neural-network  convolution 

Tento entender os LSTMs e como construí-los com Keras. Eu descobri que existem principalmente os 4 modos de executar um RNN (os 4 certos na foto) Fonte da imagem: Andrej Karpathy Agora eu me pergunto como um trecho de código minimalista para cada um deles ficaria em Keras. Então algo …

108 machine-learning  neural-network  deep-learning  keras  recurrent-neural-network 

Estou tentando entender o papel da Flattenfunção em Keras. Abaixo está meu código, que é uma rede simples de duas camadas. Ele recebe dados bidimensionais de forma (3, 2) e produz dados unidimensionais de forma (1, 4): model = Sequential() model.add(Dense(16, input_shape=(3, 2))) model.add(Activation('relu')) model.add(Flatten()) model.add(Dense(4)) model.compile(loss='mean_squared_error', optimizer='SGD') x = …

108 machine-learning  tensorflow  neural-network  deep-learning  keras 

Como inicializar os pesos e vieses (por exemplo, com inicialização de He ou Xavier) em uma rede em PyTorch?

106 python  neural-network  deep-learning  pytorch