Estatísticas e Big Data

Quando devemos discretizar / bin variáveis ​​/ recursos independentes e quando não devemos? Minhas tentativas de responder à pergunta: Em geral, não devemos fazer bin, porque o binning perderá informações. Na verdade, o binning está aumentando o grau de liberdade do modelo; portanto, é possível causar um ajuste excessivo após …

21 machine-learning  continuous-data  feature-construction  binning 

Ultimamente, tenho lido algumas perguntas sobre t-SNE ( Incorporação estocástica de vizinhos t-distribuídos ) e também visitou algumas perguntas sobre MDS ( Multidimensional Scaling ). Eles costumam ser usados ​​de forma análoga; portanto, parecia uma boa idéia fazer essa pergunta, pois há muitas perguntas sobre as duas separadamente (ou comparadas …

21 data-visualization  dimensionality-reduction  multidimensional-scaling  tsne 

Nas estatísticas, independente e aleatório descrevem as mesmas características? Qual a diferença entre eles? Geralmente encontramos a descrição como "duas variáveis ​​aleatórias independentes" ou "amostragem aleatória". Eu estou querendo saber qual é a diferença exata entre eles. Alguém pode explicar isso e dar alguns exemplos? por exemplo, processo não independente, …

21 distributions  sampling  randomness 

Muitos PDFs variam de menos a infinito positivo, mas alguns meios são definidos e outros não. Que característica comum torna computável?

21 distributions  mean 

Fundo: Sim, a máquina de Boltzmann restrita (RBM) pode ser usada para iniciar os pesos de uma rede neural. Também PODE ser usado de maneira "camada por camada" para construir uma rede profunda de crenças (isto é, treinar uma ésima camada na parte superior da -ésima camada e depois treinar …

21 machine-learning  neural-networks  deep-learning  deep-belief-networks  rbm 

Com base no pouco conhecimento que tenho dos métodos MCMC (cadeia de Markov Monte Carlo), entendo que a amostragem é uma parte crucial da técnica mencionada acima. Os métodos de amostragem mais comumente usados ​​são Hamiltoniano e Metrópole. Existe uma maneira de utilizar o aprendizado de máquina ou mesmo o …

21 machine-learning  mcmc  monte-carlo  markov-process 

O meu entendimento é que, mesmo quando seguindo procedimentos transversais adequados de seleção de validação e modelo, overfitting vai acontecer se um pesquisas para um modelo com força suficiente , a menos que restrições impõe a complexidade do modelo, período. Além disso, muitas vezes as pessoas tentam aprender multas na …

21 machine-learning  cross-validation  goodness-of-fit  scikit-learn  caret 

Minha pergunta surgiu de uma discussão com @whuber nos comentários de uma pergunta diferente . Especificamente, o comentário de @whuber foi o seguinte: Uma razão pela qual você pode surpreender é que as suposições subjacentes a um teste de correlação e a um teste de inclinação de regressão são diferentes …

21 regression  correlation  p-value  assumptions 

O que é "logístico" sobre a distribuição logística, de uma maneira sensata? Qual é a etimologia e a lógica lexical para o nome, não apenas a pura definição matemática?

21 terminology  history  etymology  logistic-curve  logistic-distribution 

Por que as pessoas usam técnicas de programação quadrática (como SMO) ao lidar com SVMs kernelizados? O que há de errado com a descida do gradiente? É impossível usar com kernels ou é muito lento (e por quê?). Aqui está um pouco mais de contexto: tentando entender um pouco melhor …

21 svm  kernel-trick  gradient-descent 

Bem, recentemente, eu estava trabalhando no aprendizado de algoritmos de impulso, como adaboost, aumento de gradiente, e eu sabia que o mais comumente usado é o árvores. Eu realmente quero saber se existem alguns exemplos bem-sucedidos recentes (refiro-me a alguns artigos ou artigos) para o uso de redes neurais como …

21 neural-networks  deep-learning  boosting  ensemble  dropout 

Estou com problemas para entender o que é um processo bayesiano de inicialização e como isso seria diferente da inicialização normal. E se alguém pudesse oferecer uma revisão intuitiva / conceitual e uma comparação de ambos, isso seria ótimo. Vamos dar um exemplo. Digamos que temos um conjunto de dados …

21 bayesian  sampling  bootstrap 

Eu estava lendo o relatório da solução vencedora de uma competição Kaggle ( Classificação de malware ). O relatório pode ser encontrado nesta postagem do fórum . O problema era um problema de classificação (nove classes, a métrica era a perda logarítmica) com 10.000 elementos no conjunto de trens e …

21 machine-learning  random-forest  boosting  overfitting  semi-supervised 

Por uma questão de simplicidade, digamos que estou trabalhando no exemplo clássico de emails de spam / não spam. Eu tenho um conjunto de 20000 e-mails. Destas, sei que 2000 são spam, mas não tenho nenhum exemplo de email que não seja spam. Eu gostaria de prever se os 18000 …

21 machine-learning  predictive-models  unsupervised-learning  supervised-learning  semi-supervised 

Quero modelar uma regressão logística com dados desequilibrados (9: 1). Eu queria tentar a opção de pesos na glmfunção em R, mas não tenho 100% de certeza do que faz. Digamos que minha variável de saída seja c(0,0,0,0,0,0,0,0,0,1). agora eu quero dar o "1" 10 vezes mais peso. então eu …

21 regression  logistic  classification  unbalanced-classes  weighted-data