Perguntas com a marcação «neural-networks»

Estou tentando entender o significado matemático dos modelos de classificação não linear: Acabei de ler um artigo falando sobre redes neurais sendo um modelo de classificação não linear. Mas eu apenas percebo que: A primeira camada: h1= x1∗ wx 1 h 1+ x2∗ wx 1 h 2h1=x1∗wx1h1+x2∗wx1h2h_1=x_1∗w_{x1h1}+x_2∗w_{x1h2} h2= x1∗ wx …

18 neural-networks  nonlinear-regression  nonlinear 

Muitos tutoriais online falam sobre descida de gradiente e quase todos usam um tamanho de etapa fixo (taxa de aprendizado ). Por que não há uso de pesquisa de linha (como pesquisa de linha de retorno ou pesquisa de linha exata)?αα\alpha

18 machine-learning  neural-networks  optimization  deep-learning 

Eu já vi conclusões semelhantes em muitas discussões, de que à medida que o tamanho de minibatch aumenta, a convergência do SGD fica realmente mais difícil / pior, por exemplo, este artigo e esta resposta . Também ouvi falar de pessoas que usam truques como pequenas taxas de aprendizado ou …

18 machine-learning  neural-networks  optimization  gradient-descent  sgd 

Definimos uma época como tendo passado por todas as amostras de treinamento disponíveis, e o tamanho do minilote como o número de amostras sobre as quais calculamos a média para encontrar as atualizações de pesos / desvios necessários para descer o gradiente. Minha pergunta é se devemos extrair sem substituição …

18 machine-learning  neural-networks  optimization  deep-learning 

Trabalhando no problema de regressão, comecei a pensar na representação do recurso "dia da semana". Gostaria de saber qual abordagem teria melhor desempenho: uma característica; valor 1/7 para segunda-feira; 2/7 para terça-feira ... 7 recursos: (1, 0, 0, 0, 0, 0, 0) para segunda-feira; (0, 1, 0, 0, 0, 0, …

18 machine-learning  neural-networks  feature-construction 

Eu estava examinando os documentos de convolução do keras e encontrei dois tipos de convulsão Conv1D e Conv2D. Eu fiz algumas pesquisas na web e é isso que eu entendo sobre Conv1D e Conv2D; Conv1D é usado para seqüências e Conv2D usa para imagens. Eu sempre pensei que as redes …

18 machine-learning  neural-networks  conv-neural-network  keras 

Dado são os 6 limites de decisão abaixo. Os limites da decisão são linhas violetas. Pontos e cruzamentos são dois conjuntos de dados diferentes. Temos que decidir qual deles é: SVM linear SVM kernelizado (kernel polinomial da ordem 2) Perceptron Regressão logística Rede Neural (1 camada oculta com 10 unidades …

17 machine-learning  self-study  classification  neural-networks  svm 

Se você tiver meia página para explicar o abandono , como você procederia? Qual é a lógica por trás dessa técnica?

17 neural-networks  deep-learning  regularization  dropout 

Eu sou novo em Redes Neurais Recorrentes (RNN) e ainda estou aprendendo os conceitos. Eu entendo em um nível abstrato que uma Echo State Network (ESN) é capaz de (re) produzir uma sequência de entradas, ou seja, um sinal, mesmo após a remoção da entrada. No entanto, achei o artigo …

17 neural-networks 

Estou tentando identificar o melhor modelo para prever os preços dos automóveis, usando os preços e os recursos disponíveis em sites de anúncios classificados para automóveis. Para isso, usei alguns modelos da biblioteca scikit-learn e modelos de redes neurais do pybrain e neurolab. A abordagem que usei até agora é …

17 machine-learning  neural-networks  random-forest  r-squared  elastic-net 

No livro de Bishop, "Classificação de padrões e aprendizado de máquina", descreve uma técnica para regularização no contexto de redes neurais. No entanto, não entendo um parágrafo descrevendo que, durante o processo de treinamento, o número de graus de liberdade aumente junto com a complexidade do modelo. A cotação relevante …

17 machine-learning  neural-networks  regularization  degrees-of-freedom 

Mergulhei no campo das redes neurais e fiquei encantado com elas. Finalmente desenvolvi uma estrutura de aplicativos para testar sistemas de negociação em bolsas de valores e agora vou implementar minha primeira rede neural nela. Muito simples e primitivo, não destinado a negociação real, apenas para iniciantes. Eu só quero …

17 machine-learning  neural-networks 

Estou passando pelo seguinte blog na rede neural LSTM: http://machinelearningmastery.com/understanding-stateful-lstm-recurrent-neural-networks-python-keras/ O autor reformula o vetor de entrada X como [amostras, etapas de tempo, recursos] para diferentes configurações de LSTMs. O autor escreve De fato, as seqüências de letras são etapas temporais de um recurso, em vez de um passo temporal …

17 neural-networks  lstm  rnn  tensorflow  tensor 

Recentemente, tenho estudado auto-codificadores. Se bem entendi, um autoencoder é uma rede neural em que a camada de entrada é idêntica à camada de saída. Portanto, a rede neural tenta prever a saída usando a entrada como padrão-ouro. Qual é a utilidade desse modelo? Quais são os benefícios de tentar …

17 neural-networks  autoencoders 

Eu tenho algumas perguntas que estão me confundindo em relação à CNN. 1) Os recursos extraídos usando a CNN são invariáveis ​​em escala e rotação? 2) Os Kernels que usamos para convolução com nossos dados já estão definidos na literatura? que tipo desses núcleos são? é diferente para cada aplicação?

17 neural-networks  deep-learning  conv-neural-network