Perguntas com a marcação «machine-learning»

Eu sou novo na conversão de fórmulas para matriz. Mas isso é necessário para um código eficiente de aprendizado de máquina. Então, eu quero entender o caminho "certo", não as coisas de cowboy que eu faço. Tudo bem, aqui vamos nós, estou tentando converter a soma ponderada dos quadrados do …

8 regression  machine-learning  linear-algebra 

Frequentemente, estudamos o modelo Gaussian Mixture como um modelo útil no aprendizado de máquina e suas aplicações. Qual é o significado físico dessa " mistura "? É usado porque um Modelo de Mistura Gaussiano modela a probabilidade de várias variáveis ​​aleatórias, cada uma com seu próprio valor de média? Caso …

8 machine-learning  distributions  gaussian-mixture  mixture  mathematical-statistics 

Pergunta: Alguém conhece algum livro didático que introduza o aprendizado de máquina (pela primeira vez) por meio da abordagem espacial Hilbert em reprodução do kernel ? Ou seja, que assumem a análise funcional como um pré-requisito, mas não assumem o conhecimento prévio do aprendizado de máquina? Qualquer artigo de pesquisa …

8 machine-learning  references 

Da Wikipedia: Na modelagem estatística, a análise de regressão é um processo estatístico para estimar as relações entre variáveis. Inclui muitas técnicas para modelar e analisar várias variáveis, quando o foco está no relacionamento entre uma variável dependente e uma ou mais variáveis ​​independentes (ou 'preditores'). Não é o mesmo …

8 regression  machine-learning  classification  definition 

Pela primeira vez (desculpe imprecisões / erros) , observei os processos gaussianos e, mais especificamente, assisti a este vídeo de Nando de Freitas . As notas estão disponíveis online aqui . Em algum momento, ele extrai 101010 amostras aleatórias de um normal multivariado gerado pela construção de uma matriz de …

8 machine-learning  simulation  stochastic-processes  gaussian-process 

No SGD, uma época seria a apresentação completa dos dados de treinamento e haveria N atualizações de peso por época (se houver N exemplos de dados no conjunto de treinamento). Se agora fizermos mini-lotes, digamos em lotes de 20. Agora, uma época consiste em atualizações de peso N / 20 …

8 machine-learning  neural-networks 

Eu sempre subscrevi a sabedoria popular de que diminuir a taxa de aprendizado em um gbm (modelo de árvore com gradiente aumentado) não prejudica o desempenho fora da amostra do modelo. Hoje não tenho tanta certeza. Estou ajustando modelos (minimizando a soma dos erros ao quadrado) no conjunto de dados …

8 machine-learning  boosting  out-of-sample 

Eu queria treinar uma rede com não linearidades que sofrem com o desaparecimento (ou o problema do gradiente explodindo, embora principalmente o desaparecimento). Sei que a maneira padrão (atual) é usar a normalização de lote 1 [BN] 1 ou simplesmente abandonar a não linearidade e usar as unidades ReLu Rectifier …

8 machine-learning  neural-networks  conv-neural-network  batch-normalization 

Em geral, devo treinar minha rede neural com menos neurônios, para que ela tenha menos neurônios ReLU mortos? Eu li opiniões conflitantes sobre ReLUs mortos. Algumas fontes dizem que ReLUs mortos são bons porque incentivam a escarsidade. Outros dizem que são ruins porque as RELUs mortas estão mortas para sempre …

8 machine-learning  neural-networks  conv-neural-network 

Seja f [x] um pdf de mistura gaussiana com n termos de peso uniforme, meios e variações correspondentes :{ μ1, . . . , μn}{μ1,...,μn}\{\mu_{1},...,\mu_{n}\}{σ1,...,σn}{σ1,...,σn}\{\sigma_{1},...,\sigma_{n}\} f(x)≡1n∑i=1n12πσ2i−−−−√e−(x−μi)22σ2if(x)≡1n∑i=1n12πσi2e−(x−μi)22σi2f(x)\equiv\frac{1}{n}\sum_{i=1}^{n}\frac{1}{\sqrt{2\pi\sigma_{i}^{2}}}e^{-\frac{(x-\mu_{i})^{2}}{2\sigma_{i}^{2}}} Parece intuitivo que a probabilidade de log amostrada nos n centros gaussianos seja maior que (ou igual a) a probabilidade de log média: 1n∑j=1nln(f(μj))≥∫f(x)ln(f(x))dx1n∑j=1nln(f(μj))≥∫f(x)ln(f(x))dx\frac{1}{n}\sum_{j=1}^{n}ln(f(\mu_{j}))\geq\int …

8 machine-learning  gaussian-mixture 

Comecei a ler sobre Redes Neurais Recorrentes (RNNs) e Memória de Longo Prazo (LSTM) ... (... oh, não há pontos de representantes suficientes aqui para listar referências ...) Uma coisa que eu não entendo: sempre parece que os neurônios em cada instância de uma camada oculta ficam "totalmente conectados" com …

8 machine-learning  neural-networks  backpropagation 

Ultimamente, venho estudando a teoria por trás das RNAs e queria entender a 'mágica' por trás da capacidade de classificação não linear de várias classes. Isso me levou a este site, que faz um bom trabalho em explicar geometricamente como essa aproximação é alcançada. Aqui está como eu entendi (em …

8 machine-learning  neural-networks  approximation  intuition  function 

Atualmente, o aprendizado estatístico e seus resultados são difundidos nas ciências sociais. Há alguns meses, Guido Imbens disse: "LASSO é o novo OLS". Estudei um pouco o Machine Learning e sei que seu principal objetivo é a previsão. Também concordo com a distinção de Leo Breiman entre duas culturas estatísticas. …

8 machine-learning  lasso  causality 

Suponha que eu esteja alimentando uma matriz 2D de forma (99,13) como entrada para uma camada LSTM. Estou tendo um número n de arquivos, onde cada um contém (99,13) vetores de tamanho. Decidi considerar 13 como o número de recursos e 99 como o timesteps. (Ao implementar com o Keras, …

8 machine-learning  lstm  rnn 

https://www.tensorflow.org/ Todos os projetos do TensorFlow que eu vi no GitHub implementam algum tipo de modelo de rede neural. Dado que o TensorFlow é uma melhoria em relação ao DAG (não é mais acíclico), eu queria saber se algumas deficiências inerentes o tornam inadequado para o modelo geral de aprendizado …

8 machine-learning  neural-networks  deep-learning  supervised-learning  tensorflow