Perguntas com a marcação «cart»

Ao codificar recursos categóricos para regressão linear, existe uma regra: o número de manequins deve ser um a menos que o número total de níveis (para evitar colinearidade). Existe uma regra semelhante para as Árvores de Decisão (ensacadas, reforçadas)? Estou perguntando isso, porque uma prática padrão em Python parece ser …

13 categorical-data  random-forest  cart  boosting 

Encontrei muitos artigos que afirmam que os métodos de aumento são sensíveis a valores discrepantes, mas nenhum artigo explica o porquê. Na minha experiência, os valores extremos são ruins para qualquer algoritmo de aprendizado de máquina, mas por que os métodos de aumento são particularmente sensíveis? Como os seguintes algoritmos …

12 machine-learning  svm  outliers  cart  boosting 

Qual é a melhor função de custo para uma árvore de floresta aleatória: índice de Gini ou entropia? Estou tentando implementar uma floresta aleatória no Clojure.

12 classification  random-forest  cart 

Estou curioso sobre a implementação prática de uma divisão binária em uma árvore de decisão - no que se refere aos níveis de um preditor categórico .XjXjX{j} Especificamente, frequentemente utilizarei algum tipo de esquema de amostragem (por exemplo, ensacamento, superamostragem etc.) ao construir um modelo preditivo usando uma árvore de …

12 cart  rpart  partitioning 

Nesta pergunta - Existe um método para construir árvores de decisão que leve em consideração preditores estruturados / hierárquicos / multiníveis? - eles mencionam um método de dados em painel para árvores. Existem métodos de dados de painel específicos para dar suporte a máquinas vetoriais e redes neurais? Se sim, …

12 r  machine-learning  svm  panel-data  cart 

Penso que esta é uma pergunta direta, embora o raciocínio por trás do porquê ou por que não possa não ser. O motivo pelo qual pergunto é que recentemente escrevi minha própria implementação de uma RF e, embora ela tenha um bom desempenho, ela não está funcionando tão bem quanto …

12 algorithms  random-forest  cart 

Quando se trata de árvores de decisão, o valor previsto pode estar fora do intervalo dos dados de treinamento? Por exemplo, se o intervalo do conjunto de dados de treinamento da variável de destino for de 0 a 100, quando eu gerar meu modelo e aplicá-lo a outra coisa, meus …

11 regression  predictive-models  random-forest  cart 

Alguém pode me explicar quando usar a impureza de Gini e o ganho de informações nas árvores de decisão? Você pode me dar situações / exemplos de quando é melhor usar qual?

11 machine-learning  classification  data-mining  cart 

Sou um pouco novo na mineração de dados e estou trabalhando em um modelo de classificação para previsão de classificação de filmes. Eu coletei conjuntos de dados do IMDB e planejo usar árvores de decisão e abordagens de vizinhos mais próximos para o meu modelo. Gostaria de saber qual ferramenta …

11 classification  cart 

Uma floresta aleatória é uma coleção de árvores de decisão formada pela seleção aleatória de apenas alguns recursos para construir cada árvore (e algumas vezes agrupando os dados de treinamento). Aparentemente, eles aprendem e generalizam bem. Alguém já fez amostragens no MCMC do espaço em árvore de decisão ou as …

11 mcmc  monte-carlo  random-forest  cart 

Existe uma maneira de uma vez que uma árvore de classificação complexa seja construída usando rpart (em R), para organizar as regras de decisão produzidas para cada classe? Então, em vez de obter uma árvore enorme, temos um conjunto de regras para cada uma das classes? (se sim, como?) Aqui …

11 r  classification  cart  rpart 

Estou trabalhando com alguns conjuntos de dados grandes usando o pacote gbm em R. Tanto minha matriz preditora quanto meu vetor de resposta são muito escassos (ou seja, a maioria das entradas é zero). Eu esperava construir árvores de decisão usando um algoritmo que aproveitasse essa escassez, como foi feito …

11 r  regression  machine-learning  classification  cart 

Se considerarmos uma árvore de decisão adulta (ou seja, uma árvore de decisão não podada), ela tem alta variação e baixo viés. Ensacamentos e florestas aleatórias usam esses modelos de alta variação e os agregam para reduzir a variação e, assim, aprimorar a precisão da previsão. Ambas as Florestas Ensacadas …

11 variance  random-forest  cart  bias  bagging 

O mgcvpacote para Rpossui duas funções para ajustar as interações do produto tensorial: te()e ti(). Entendo a divisão básica do trabalho entre os dois (ajustando uma interação não linear versus decompondo essa interação em efeitos principais e uma interação). O que não entendo é o porquê te(x1, x2)e ti(x1) + …

11 r  gam  mgcv  conditional-probability  mixed-model  references  bayesian  estimation  conditional-probability  machine-learning  optimization  gradient-descent  r  hypothesis-testing  wilcoxon-mann-whitney  time-series  bayesian  inference  change-point  time-series  anova  repeated-measures  statistical-significance  bayesian  contingency-tables  regression  prediction  quantiles  classification  auc  k-means  scikit-learn  regression  spatial  circular-statistics  t-test  effect-size  cohens-d  r  cross-validation  feature-selection  caret  machine-learning  modeling  python  optimization  frequentist  correlation  sample-size  normalization  group-differences  heteroscedasticity  independence  generalized-least-squares  lme4-nlme  references  mcmc  metropolis-hastings  optimization  r  logistic  feature-selection  separation  clustering  k-means  normal-distribution  gaussian-mixture  kullback-leibler  java  spark-mllib  data-visualization  categorical-data  barplot  hypothesis-testing  statistical-significance  chi-squared  type-i-and-ii-errors  pca  scikit-learn  conditional-expectation  statistical-significance  meta-analysis  intuition  r  time-series  multivariate-analysis  garch  machine-learning  classification  data-mining  missing-data  cart  regression  cross-validation  matrix-decomposition  categorical-data  repeated-measures  chi-squared  assumptions  contingency-tables  prediction  binary-data  trend  test-for-trend  matrix-inverse  anova  categorical-data  regression-coefficients  standard-error  r  distributions  exponential  interarrival-time  copula  log-likelihood  time-series  forecasting  prediction-interval  mean  standard-error  meta-analysis  meta-regression  network-meta-analysis  systematic-review  normal-distribution  multiple-regression  generalized-linear-model  poisson-distribution  poisson-regression  r  sas  cohens-kappa 

Quero implementar o Adaboost usando o Decision Stump. É correto tomar tantas decisões quanto os recursos do nosso conjunto de dados em cada iteração do Adaboost? Por exemplo, se eu tiver um conjunto de dados com 24 recursos, devo ter 24 classificadores de stump de decisão em cada iteração? Ou …

11 machine-learning  classification  cart  boosting