Perguntas com a marcação «cart»

Sabe-se que, ao construir uma árvore de decisão, dividimos a variável de entrada exaustivamente e encontramos a melhor divisão por abordagem de teste estatístico ou por função de impureza. Minha pergunta é: quando usamos uma variável contínua como variável de entrada (apenas alguns valores duplicados), o número de divisões possíveis …

8 cart 

Em Modelagem Preditiva Aplicada de Kuhn e Johnson, os autores escrevem: Finalmente, essas árvores sofrem viés de seleção: preditores com um número maior de valores distintos são favorecidos em detrimento de preditores mais granulares (Loh e Shih, 1997; Carolin et al., 2007; Loh, 2010). Loh e Shih (1997) observaram que …

8 cart  bias 

Minha pergunta lida com árvores de classificação . Considere o seguinte exemplo do conjunto de dados Iris: Desejo selecionar manualmente o melhor preditor para a primeira divisão. De acordo com o algoritmo CART, o melhor recurso para fazer uma divisão é aquele que maximiza a diminuição da impureza da partição, …

8 r  machine-learning  classification  data-mining  cart 

Então, estou brincando com a idéia de escrever um algoritmo que cresce e remove uma árvore de regressão dos dados e, em seguida, nos nós terminais da árvore, cabe um GLM. Eu tenho tentado ler sobre a idéia, mas não consigo encontrar um nome consistente para a técnica. Eu o …

8 regression  generalized-linear-model  cart 

Eu vim por vários postos e documentos alegando que a poda de árvores em um conjunto de árvores "ensacadas" não é necessária (veja 1 ). No entanto, é necessariamente (ou pelo menos em alguns casos conhecidos) prejudicial realizar a poda (digamos, com a amostra OOB) nas árvores individuais de um …

8 bootstrap  cart  bagging 

Existe um método para construir árvores de decisão que leve em consideração preditores estruturados / hierárquicos / multiníveis, que me permita impor conhecimento ou restrições de domínio às interações, por exemplo?

8 regression  machine-learning  multilevel-analysis  cart 

Eu sei que a rpartfunção de R mantém os dados necessários para implementar a divisão multivariada, mas não sei se ele está realmente executando divisões multivariadas. Eu tentei pesquisá-lo on-line, olhando para os rpartdocumentos, mas não vejo nenhuma informação que ele possa fazer ou esteja fazendo. Alguém sabe ao certo?

8 r  multivariate-analysis  cart 

Na ESL , Seção 9.7, há um parágrafo declarando que o tempo de computação de uma divisão no crescimento de uma árvore de classificação (ou regressão) geralmente escala como que é o número de preditores e é o número de amostras.pNlogNpNlog⁡Np N \log NpppNNN Uma abordagem ingênua resulta em uma …

8 algorithms  cart 

Digamos que você treine dois modelos diferentes do Gradient Boosting Classifier em dois conjuntos de dados diferentes. Você usa a validação cruzada de exclusão única e plota os histogramas de previsões que os dois modelos produzem. Os histogramas são assim: e isto: Portanto, em um caso, as previsões (em conjuntos …

7 classification  cart  boosting  xgboost