Perguntas com a marcação «ensemble»

As florestas aleatórias funcionam criando um conjunto de árvores de decisão em que cada árvore é criada usando uma amostra de autoinicialização dos dados de treinamento originais (amostra de variáveis ​​de entrada e observações). Um processo semelhante pode ser aplicado para regressão linear? Crie k modelos de regressão linear usando …

14 regression  predictive-models  ensemble 

Gostaria de criar uma floresta aleatória usando o seguinte processo: Construa uma árvore em amostras aleatórias dos dados e recursos usando o ganho de informações para determinar as divisões Encerre um nó folha se exceder uma profundidade predefinida OU qualquer divisão resultaria em uma contagem de folhas menor que um …

14 classification  random-forest  lasso  ensemble 

Parece-me que a aprendizagem por conjuntos sempre oferecerá melhor desempenho preditivo do que com apenas uma única hipótese de aprendizagem. Então, por que não os usamos o tempo todo? Meu palpite é que talvez seja devido a limitações computacionais? (mesmo assim, usamos preditores fracos, então eu não sei).

13 boosting  ensemble  bagging 

Entendo teoricamente (mais ou menos) como eles funcionariam, mas não tenho certeza de como usar um método de conjunto (como votação, misturas ponderadas etc.). Quais são os bons recursos para implementar métodos de ensemble? Existem recursos específicos em relação à implementação em Python? EDITAR: Para esclarecer alguns com base na …

13 machine-learning  python  ensemble 

Preciso automatizar a previsão de séries temporais e não conheço antecipadamente os recursos dessas séries (sazonalidade, tendência, ruído etc.). Meu objetivo não é obter o melhor modelo possível para cada série, mas evitar modelos muito ruins. Em outras palavras, obter pequenos erros toda vez não é um problema, mas obter …

13 time-series  forecasting  arima  ensemble  exponential-smoothing 

Eu quero criar um modelo de regressão que seja uma média de vários modelos OLS, cada um com base em um subconjunto dos dados completos. A idéia por trás disso é baseada neste artigo . Crio k folds e construo k modelos OLS, cada um com dados sem uma das …

12 regression  least-squares  ensemble 

Eu tenho tentado entender o aumento de gradiente lendo vários blogs, sites e tentando encontrar minha resposta procurando, por exemplo, no código-fonte do XGBoost. No entanto, não consigo encontrar uma explicação compreensível de como algoritmos de aumento de gradiente produzem estimativas de probabilidade. Então, como eles calculam as probabilidades?

11 machine-learning  classification  boosting  ensemble  xgboost 

Recentemente, me interessei pelo empilhamento de modelos como uma forma de aprendizado por conjunto. Em particular, experimentei um pouco com alguns conjuntos de dados de brinquedos para problemas de regressão. Eu basicamente implementei regressores individuais de "nível 0", armazenei as previsões de saída de cada regressor como um novo recurso …

10 machine-learning  ensemble  stacking 

Métodos de conjuntos baseados em árvores, como Floresta Aleatória e derivadas subsequentes (por exemplo, floresta condicional), todos pretendem ser úteis nos chamados problemas "pequenos n , grandes p ", para identificar importância relativa variável. De fato, esse parece ser o caso, mas minha pergunta é até que ponto essa capacidade …

10 random-forest  small-sample  ensemble 

Suponha que eu tenha uma amostra de frequências de 4 eventos possíveis: Event1 - 5 E2 - 1 E3 - 0 E4 - 12 e tenho as probabilidades esperadas de meus eventos ocorrerem: p1 - 0.2 p2 - 0.1 p3 - 0.1 p4 - 0.6 Com a soma das frequências …

9 r  statistical-significance  chi-squared  multivariate-analysis  exponential  joint-distribution  statistical-significance  self-study  standard-deviation  probability  normal-distribution  spss  interpretation  assumptions  cox-model  reporting  cox-model  statistical-significance  reliability  method-comparison  classification  boosting  ensemble  adaboost  confidence-interval  cross-validation  prediction  prediction-interval  regression  machine-learning  svm  regularization  regression  sampling  survey  probit  matlab  feature-selection  information-theory  mutual-information  time-series  forecasting  simulation  classification  boosting  ensemble  adaboost  normal-distribution  multivariate-analysis  covariance  gini  clustering  text-mining  distance-functions  information-retrieval  similarities  regression  logistic  stata  group-differences  r  anova  confidence-interval  repeated-measures  r  logistic  lme4-nlme  inference  fiducial  kalman-filter  classification  discriminant-analysis  linear-algebra  computing  statistical-significance  time-series  panel-data  missing-data  uncertainty  probability  multivariate-analysis  r  classification  spss  k-means  discriminant-analysis  poisson-distribution  average  r  random-forest  importance  probability  conditional-probability  distributions  standard-deviation  time-series  machine-learning  online  forecasting  r  pca  dataset  data-visualization  bayes  distributions  mathematical-statistics  degrees-of-freedom 

Estou lendo o aprendizado prático de máquina com o Scikit-Learn e o TensorFlow: conceitos, ferramentas e técnicas para criar sistemas inteligentes . Então, não sou capaz de descobrir a diferença entre votação forçada e votação suave no contexto de métodos baseados em conjuntos. Cito descrições deles no livro. As duas …

9 machine-learning  ensemble 

Em todos os papéis florestais aleatórios (de regressão) que li, quando chega a hora de reunir as previsões de todas as árvores, tomamos o valor médio como previsão. Minha pergunta é por que fazemos isso? Existe uma justificativa estatística para obter a média? EDIT: Para esclarecer a questão, eu sei …

8 regression  random-forest  ensemble 

Meu problema é o seguinte: tenho um conjunto de preditores de que cada um produz uma distribuição em um conjunto de classes. O que eu gostaria de fazer é primeiro ter um prévio não informativo sobre a aparência dessa distribuição de rótulos e depois atualizá-lo com a previsão de cada …

8 bayesian  ensemble  dirichlet-distribution 

Podemos generalizar todos os métodos de conjunto usando votação? Os métodos de reforço também usam o voto para colocar os alunos fracos no modelo final? Minha compreensão da técnica: Impulsionar: adiciona continuamente um aluno fraco para aumentar os pontos de dados que não foram classificados corretamente. Técnica do conjunto: usa …

8 machine-learning  boosting  ensemble  gbm  voting-system 

Digamos que eu tenho três conjuntos de dados de tamanho cada:nnn = alturas de pessoas apenas dos EUAy1y1y_1 = alturas de homens de todo o mundoy2y2y_2 = alturas das mulheres de todo o mundoy3y3y_3 E eu construir um modelo linear para cada com fatores , i = 1 , . …

8 regression  multiple-regression  ensemble  aggregation