Perguntas com a marcação «cart»

Florestas aleatórias são consideradas caixas pretas, mas recentemente eu estava pensando que conhecimento pode ser obtido de uma floresta aleatória? O mais óbvio é a importância das variáveis, na variante mais simples isso pode ser feito apenas calculando o número de ocorrências de uma variável. A segunda coisa que eu …

127 machine-learning  data-mining  interaction  random-forest  cart 

O aumento da árvore de gradiente, conforme proposto por Friedman, usa as árvores de decisão como aprendizes básicos. Gostaria de saber se devemos tornar a árvore de decisão básica o mais complexa possível (totalmente crescida) ou mais simples? Existe alguma explicação para a escolha? A floresta aleatória é outro método …

110 machine-learning  random-forest  cart  boosting  ensemble 

Alguém pode explicar as principais diferenças entre árvores de inferência condicional ( ctreedo partypacote em R) em comparação com os algoritmos mais tradicionais da árvore de decisão (como rpartem R)? O que diferencia as árvores de IC? Forças e fraquezas? Atualização: Analisei o artigo de Horthorn et al. Que Chi …

97 r  machine-learning  cart 

Estou começando a se envolver com o uso de glmnetcom LASSO Regressão onde meu desfecho de interesse é dicotômica. Criei um pequeno quadro de dados simulado abaixo: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p …

78 r  self-study  lasso  regression  interpretation  anova  statistical-significance  survey  conditional-probability  independence  naive-bayes  graphical-model  r  time-series  forecasting  arima  r  forecasting  exponential-smoothing  bootstrap  outliers  r  regression  poisson-distribution  zero-inflation  genetic-algorithms  machine-learning  feature-selection  cart  categorical-data  interpretation  descriptive-statistics  variance  multivariate-analysis  covariance-matrix  r  data-visualization  generalized-linear-model  binomial  proportion  pca  matlab  svd  time-series  correlation  spss  arima  chi-squared  curve-fitting  text-mining  zipf  probability  categorical-data  distance  group-differences  bhattacharyya  regression  variance  mean  data-visualization  variance  clustering  r  standard-error  association-measure  somers-d  normal-distribution  integral  numerical-integration  bayesian  clustering  python  pymc  nonparametric-bayes  machine-learning  svm  kernel-trick  hyperparameter  poisson-distribution  mean  continuous-data  univariate  missing-data  dag  python  likelihood  dirichlet-distribution  r  anova  hypothesis-testing  statistical-significance  p-value  rating  data-imputation  censoring  threshold 

Minhas perguntas são sobre florestas aleatórias. O conceito deste classificador bonito é claro para mim, mas ainda há muitas questões práticas de uso. Infelizmente, não encontrei nenhum guia prático de RF (estive procurando por algo como "Um Guia Prático para Treinamento de Máquinas Boltzman Restritas", de Geoffrey Hinton, mas para …

65 random-forest  cart 

Alguém recebeu sugestões de bibliotecas ou códigos sobre como realmente plotar algumas árvores de amostra de: getTree(rfobj, k, labelVar=TRUE) (Sim, eu sei que você não deve fazer isso operacionalmente, a RF é uma caixa preta, etc. etc. Quero verificar visualmente uma árvore para verificar se alguma variável está se comportando …

62 r  data-visualization  random-forest  cart 

O que é "desvio", como é calculado e quais são seus usos em diferentes campos nas estatísticas? Em particular, estou pessoalmente interessado em seus usos no CART (e sua implementação no rpart no R). Estou perguntando isso, já que o artigo wiki parece um pouco ausente e suas idéias serão …

45 r  cart  rpart  deviance 

Eu sou novo na mineração de dados e estou tentando treinar uma árvore de decisão contra um conjunto de dados altamente desequilibrado. No entanto, estou tendo problemas com baixa precisão preditiva. Os dados consistem em estudantes que estudam nos cursos, e a variável da turma é o status do curso …

43 classification  cart  unbalanced-classes  accuracy 

Em Introdução ao aprendizado estatístico com aplicações em R , os autores escrevem que o ajuste de uma árvore de decisão é muito rápido, mas isso não faz sentido para mim. O algoritmo precisa passar por todos os recursos e particioná-lo de todas as maneiras possíveis para encontrar a divisão …

38 cart 

Estou obtendo uma precisão de 100% para minha árvore de decisão. O que estou fazendo errado? Este é o meu código: import pandas as pd import json import numpy as np import sklearn import matplotlib.pyplot as plt data = np.loadtxt("/Users/Nadjla/Downloads/allInteractionsnum.csv", delimiter=',') x = data[0:14] y = data[-1] from sklearn.cross_validation import …

38 machine-learning  python  cart  accuracy 

As árvores de decisão parecem ser um método de aprendizado de máquina muito compreensível. Uma vez criado, pode ser facilmente inspecionado por um ser humano, o que é uma grande vantagem em algumas aplicações. Quais são os aspectos fracos práticos das Árvores de Decisão?

34 machine-learning  nonparametric  cart 

Estou procurando uma explicação de como a importância da variável relativa é calculada nas árvores com gradiente de aumento que não é excessivamente geral / simplista como: As medidas são baseadas no número de vezes que uma variável é selecionada para divisão, ponderada pela melhoria ao quadrado do modelo como …

33 machine-learning  data-mining  predictive-models  cart  boosting 

Eu li em algumas fontes, incluindo esta , que as florestas aleatórias não são sensíveis a outliers (da mesma forma que a regressão logística e outros métodos de ML são, por exemplo). No entanto, duas intuições me dizem o contrário: Sempre que uma árvore de decisão é construída, todos os …

33 random-forest  bootstrap  outliers  cart 

Quais são algumas diretrizes úteis para testar parâmetros (por exemplo, profundidade de interação, filho pequeno, taxa de amostragem etc.) usando o GBM? Digamos que tenho 70-100 recursos, uma população de 200.000 e pretendo testar a profundidade de interação de 3 e 4. Claramente, preciso fazer alguns testes para ver qual …

31 r  hypothesis-testing  cart  boosting 

Ao construir um modelo CART (especificamente árvore de classificação) usando rpart (em R), geralmente é interessante saber qual é a importância das várias variáveis ​​introduzidas no modelo. Assim, minha pergunta é: Que medidas comuns existem para classificar / medir a importância das variáveis ​​participantes de um modelo CART? E como …

27 r  classification  model-selection  cart  rpart