Perguntas com a marcação «random-forest»

Minha pergunta é sobre classificação binária, por exemplo, separar bons clientes de clientes ruins, mas não regressão ou classificação não-binária. Nesse contexto, uma floresta aleatória é um conjunto de árvores de classificação. Para cada observação, toda árvore vota um "sim" ou "não", e o voto médio de todas as árvores …

9 r  machine-learning  classification  random-forest 

Estou usando a função randomForestno randomForestpacote de R para fazer uma regressão. No entanto, quando estou tentando incluir um termo de interação nos seguintes códigos: library(MASS) library(randomForest) Boston_f <- within(Boston, factor(rad)) mdl <- randomForest(lstat ~ rad * . , data = Boston_f) O resultado mdl$terminclui interação, mas se eu espiar …

9 r  interaction  random-forest 

Surpreende-me o fato de não encontrar artigos / palestras sobre como incorporar distribuições de probabilidade de classe anterior em classificadores como Regressão logística ou Floresta aleatória. Então, minha pergunta é: Como incorporar a Distribuição de Probabilidade de Classe Anterior em Regressão Logística ou Florestas Aleatórias? A incorporação de distribuição de …

9 logistic  bayesian  random-forest  prior 

Para floresta aleatória, dividimos o nó por Gini impureza ou entropia para um conjunto de recursos. O RandomForestClassifier no sklearn, podemos optar por dividir usando o critério Gini ou Entropy. No entanto, o que eu li sobre o Extra-Trees Classifier, um valor aleatório é selecionado para a divisão (acho que …

9 classification  python  random-forest  scikit-learn 

Para modelos lineares (como regressão linear, regressão logística, etc.), a engenharia de recursos é uma etapa importante para melhorar o desempenho dos modelos. Minha pergunta é: importa se realizamos alguma engenharia de recursos ao usar floresta aleatória ou aumento de gradiente? Concedido que esses modelos não são modelos de aprendizado …

9 machine-learning  random-forest  feature-construction  gbm  boosting 

Baseado na árvore de aumento de gradiente vs floresta aleatória . GBDT e RF usando estratégias diferentes para lidar com tendências e variações. Minha pergunta é: posso alterar a amostra do conjunto de dados (com substituição) para treinar vários GBDT e combinar suas previsões como resultado final? É equivalente a …

8 random-forest  cart  boosting  bagging  gradient 

Eu tenho um conjunto de dados com 5.818.446 linhas e 51 colunas, onde 50 delas são preditores. Minha resposta é quantitativa, por isso estou interessado em um modelo de regressão. Estou tentando ajustar uma floresta aleatória aos meus dados usando o pacote de intercalação. No entanto, não tenho RAM suficiente …

8 r  random-forest  large-data 

Em todos os papéis florestais aleatórios (de regressão) que li, quando chega a hora de reunir as previsões de todas as árvores, tomamos o valor médio como previsão. Minha pergunta é por que fazemos isso? Existe uma justificativa estatística para obter a média? EDIT: Para esclarecer a questão, eu sei …

8 regression  random-forest  ensemble 

Eu tenho um conjunto de dados x, y que estou usando para criar uma floresta aleatória. Os dados x são um vetor de valores que inclui algumas NAs. Então, eu uso rfImputepara manipular os dados ausentes e criar uma floresta aleatória. Agora eu tenho uma nova observação invisível x (com …

8 r  random-forest  missing-data 

Eu li essa afirmação muitas vezes, mas nunca me deparei com uma prova. Eu gostaria de tentar produzir um, mas não tenho certeza de qual notação usar. Alguém pode me ajudar com isso?

8 mathematical-statistics  random-forest  unbiased-estimator  proof 

Esta pergunta já tem respostas aqui : Meu modelo é bom, com base no valor da métrica de diagnóstico ( / AUC / precisão / RMSE etc.)? R2R2R^2 (3 respostas) Fechado há 7 meses . Eu tenho dados de aprendizagem que consistem em ~ 45k amostras, cada uma com 21 …

8 classification  random-forest  out-of-sample 

Sou um pouco novato em R e seleção de recursos e tentei o pacote Boruta para selecionar (diminuir) meu número de variáveis ​​(n = 40). Eu pensei que esse método também levasse em conta a possível correlação entre variáveis, no entanto, duas (das 20 variáveis ​​selecionadas) são altamente correlacionadas e …

8 r  feature-selection  random-forest  boruta 

Eu tenho um conjunto de dados que é estritamente binário. o conjunto de valores de cada variável está no domínio: true, false. a propriedade "especial" desse conjunto de dados é que a maioria esmagadora dos valores é "falsa". Eu já usei um algoritmo de aprendizado de rede bayesiana para aprender …

8 machine-learning  classification  svm  random-forest  bayesian-network 

Eu tenho 5 variáveis ​​para cada país do mundo e preciso analisar seus efeitos e interações em uma variável independente. A Random Forest seria adequada para o meu escopo, pois lida com relacionamentos não lineares e prediz a importância das variáveis. No entanto, estou me perguntando se a dependência espacial …

8 random-forest  spatial  independence 

Entendo como a melhor divisão é escolhida para floresta aleatória para preditores numéricos (recursos). Os preditores numéricos são classificados para cada valor calculado como impureza ou entropia de Gini e é escolhido um limite que fornece a melhor divisão. Mas qual a melhor divisão escolhida para o preditor categórico, pois …

8 machine-learning  random-forest