Perguntas com a marcação «gbm»

Estou tentando entender as diferenças entre o GBM e o Adaboost. Estes são o que eu entendi até agora: Existem dois algoritmos de otimização, que aprendem com os erros do modelo anterior e finalmente fazem uma soma ponderada dos modelos. GBM e Adaboost são bem parecidos, exceto por suas funções …

48 boosting  gbm  adaboost 

Quais são as razões teóricas para não lidar com valores ausentes? Máquinas de aumento de gradiente, árvores de regressão lidam com valores ausentes. Por que a Random Forest não faz isso?

42 random-forest  missing-data  gbm 

Eu tinha uma pergunta sobre o parâmetro de profundidade de interação em gbm em R. Esta pode ser uma pergunta noob, pela qual peço desculpas, mas como o parâmetro, que acredito denota o número de nós terminais em uma árvore, indica basicamente X-way interação entre os preditores? Apenas tentando entender …

30 r  machine-learning  boosting  gbm 

É improvável que esta pergunta ajude futuros visitantes; é relevante apenas para uma pequena área geográfica, um momento específico ou uma situação extraordinariamente estreita que geralmente não é aplicável ao público mundial da Internet. Para obter ajuda para tornar esta questão mais amplamente aplicável, visite o centro de ajuda . …

21 r  gbm 

Estou tentando entender como o XGBoost funciona. Eu já entendo como as árvores com gradiente aumentado funcionam no sklearn do Python. O que não está claro para mim é se o XGBoost funciona da mesma maneira, mas mais rápido, ou se existem diferenças fundamentais entre ele e a implementação do …

20 scikit-learn  boosting  gbm  xgboost 

Estou lidando com um problema de classificação binária supervisionada. Eu gostaria de usar o pacote GBM para classificar os indivíduos como não infectados / infectados. Eu tenho 15 vezes mais não infectado do que indivíduos infectados. Eu queria saber se os modelos GBM sofrem no caso de tamanhos de classe …

16 r  machine-learning  boosting  unbalanced-classes  gbm 

Estou experimentando o algoritmo da máquina de aumento de gradiente através do caretpacote em R. Usando um pequeno conjunto de dados de admissões de faculdade, executei o seguinte código: library(caret) ### Load admissions dataset. ### mydata <- read.csv("http://www.ats.ucla.edu/stat/data/binary.csv") ### Create yes/no levels for admission. ### mydata$admit_factor[mydata$admit==0] <- "no" mydata$admit_factor[mydata$admit==1] <- …

15 machine-learning  caret  boosting  gbm  hypothesis-testing  t-test  panel-data  psychometrics  intraclass-correlation  generalized-linear-model  categorical-data  binomial  model  intercept  causality  cross-correlation  distributions  ranks  p-value  z-test  sign-test  time-series  references  terminology  cross-correlation  definition  probability  distributions  beta-distribution  inverse-gamma  missing-data  paired-comparisons  paired-data  clustered-standard-errors  cluster-sample  time-series  arima  logistic  binary-data  odds-ratio  medicine  hypothesis-testing  wilcoxon-mann-whitney  unsupervised-learning  hierarchical-clustering  neural-networks  train  clustering  k-means  regression  ordinal-data  change-scores  machine-learning  experiment-design  roc  precision-recall  auc  stata  multilevel-analysis  regression  fitting  nonlinear  jmp  r  data-visualization  gam  gamm4  r  lme4-nlme  many-categories  regression  causality  instrumental-variables  endogeneity  controlling-for-a-variable 

Quero saber se o processo descrito abaixo é válido / aceitável e se existe alguma justificativa disponível. A idéia: algoritmos de aprendizado supervisionado não assumem estruturas / distribuições subjacentes sobre os dados. No final do dia, eles produzem estimativas de pontos. Espero quantificar a incerteza das estimativas de alguma forma. …

14 machine-learning  confidence-interval  bootstrap  supervised-learning  gbm 

Estive usando o ajuste de modelo caret, mas depois executei novamente o modelo usando o gbmpacote. Entendo que o caretpacote usa gbme a saída deve ser a mesma. No entanto, apenas um teste rápido usando data(iris)mostra uma discrepância no modelo de cerca de 5% usando RMSE e R ^ 2 …

12 r  caret  gbm  matrix  linear-algebra  logistic  modeling  logit  ordered-logit  r  confidence-interval  survival  population  weibull  classification  separation  hypothesis-testing  correlation  statistical-significance  p-value  python  r  data-visualization  r  regression  multiple-regression  chi-squared  multivariate-analysis  distributions  random-variable  experiment-design  distributions  poisson-regression  residuals  excel  time-series  garch  var  survival  modeling  cox-model  interaction  r  pca  normality-assumption 

Estou trabalhando com modelos GBM usando o pacote de interpolação e procurando um método para resolver os intervalos de previsão dos meus dados previstos. Eu pesquisei bastante, mas só tenho algumas idéias para encontrar intervalos de previsão para a Floresta Aleatória. Qualquer ajuda / código R seria muito apreciada!

12 caret  prediction-interval  gbm 

Existe uma estratégia para escolher o número de árvores em um GBM? Especificamente, o ntreesargumento em R's gbmfunção. Não vejo por que você não deve definir ntreeso valor mais alto possível. Percebi que um número maior de árvores reduz claramente a variabilidade dos resultados de vários GBMs. Eu não acho …

11 r  machine-learning  gbm 

Questões: Qual é a diferença (ões) entre árvores de regressão reforçada (BRT) e modelos impulsionados generalizados (GBM)? Eles podem ser usados ​​de forma intercambiável? Uma é uma forma específica da outra? Por que Ridgeway usou a frase "Generalized Boosted Regression Models" (GBM), para descrever o que Friedman havia proposto anteriormente …

9 machine-learning  boosting  gbm 

Percebo que existem 3 parâmetros de ajuste no modelo de árvores de reforço, ou seja, o número de árvores (número de iterações) parâmetro de encolhimento número de divisões (tamanho de cada árvore constituinte) Minha pergunta é: para cada um dos parâmetros de ajuste, como devo encontrar seu valor ideal? E …

9 machine-learning  cross-validation  computational-statistics  boosting  gbm 

A documentação afirma que R gbm com distribution = "adaboost" pode ser usado para o problema de classificação 0-1. Considere o seguinte fragmento de código: gbm_algorithm <- gbm(y ~ ., data = train_dataset, distribution = "adaboost", n.trees = 5000) gbm_predicted <- predict(gbm_algorithm, test_dataset, n.trees = 5000) Pode ser encontrado na …

9 r  gbm 

É possível plotar um gráfico de dependência parcial para exibir a probabilidade da classe e estimar os efeitos de um preditor para um modelo GBM ? Algo semelhante ao partialPlotdo randomForestpacote. De acordo com este artigo , uma plotagem parcial é possível com o gbm. Agradeço antecipadamente por sua ajuda.

9 r  gbm