Estatísticas e Big Data model-selection

1

Graus de liberdade residual apropriados após a eliminação dos termos de um modelo

Estou refletindo sobre a discussão em torno desta questão e, em particular, o comentário de Frank Harrell de que a estimativa de variação em um modelo reduzido (ou seja, do qual várias variáveis explicativas foram testadas e rejeitadas) deve usar os graus de liberdade generalizados de Ye . O professor …

27 r regression model-selection regression-strategies

3

A AIC pode comparar entre diferentes tipos de modelo?

Estou usando o AIC (critério de informações de Akaike) para comparar modelos não lineares em R. É válido comparar os AICs de diferentes tipos de modelo? Especificamente, estou comparando um modelo ajustado pelo glm versus um modelo com um termo de efeito aleatório ajustado pelo glmer (lme4). Caso contrário, existe …

27 lme4-nlme model-selection aic

4

Como medir / classificar “importância variável” ao usar o CART? (especificamente usando {rpart} de R)

Ao construir um modelo CART (especificamente árvore de classificação) usando rpart (em R), geralmente é interessante saber qual é a importância das várias variáveis introduzidas no modelo. Assim, minha pergunta é: Que medidas comuns existem para classificar / medir a importância das variáveis participantes de um modelo CART? E como …

27 r classification model-selection cart rpart

3

Pré-requisitos para comparação do modelo AIC

Quais são exatamente os pré-requisitos que precisam ser atendidos para que a comparação do modelo da AIC funcione? Acabei de contornar esta questão quando fiz uma comparação como esta: > uu0 = lm(log(usili) ~ rok) > uu1 = lm(usili ~ rok) > AIC(uu0) [1] 3192.14 > AIC(uu1) [1] 14277.29 Assim …

26 regression model-selection aic model-comparison nested-models

4

Abordando a incerteza do modelo

Fiquei imaginando como os bayesianos da comunidade CrossValidated veem o problema da incerteza do modelo e como preferem lidar com isso. Vou tentar colocar minha pergunta em duas partes: Qual a importância (na sua experiência / opinião) é lidar com a incerteza do modelo? Não encontrei nenhum documento que lide …

25 machine-learning bayesian model-selection

5

Qual é a vantagem de tratar um fator aleatoriamente em um modelo misto?

Tenho um problema ao adotar os benefícios de rotular um fator de modelo como aleatório por alguns motivos. Para mim, parece que em quase todos os casos a solução ideal é tratar todos os fatores como fixos. Primeiro, a distinção entre fixo e aleatório é bastante arbitrária. A explicação padrão …

24 model-selection random-effects-model aic fixed-effects-model mixed-model

4

Você tem uma visão global dessas técnicas de análise?

Atualmente, estou em um projeto em que basicamente preciso, como todos nós, entender como a saída está relacionada à entrada . A particularidade aqui é que os dados são fornecidos para mim uma peça de cada vez, portanto, desejo atualizar minha análise sempre que receber um novo . Acredito que …

24 modeling model-selection

2

Estabilidade de tópicos em modelos de tópicos

Estou trabalhando em um projeto no qual desejo extrair algumas informações sobre o conteúdo de uma série de ensaios abertos. Nesse projeto em particular, 148 pessoas escreveram ensaios sobre uma organização hipotética de estudantes como parte de um experimento maior. Embora no meu campo (psicologia social), a maneira típica de …

23 machine-learning model-selection small-sample topic-models dirichlet-process

3

AIC versus validação cruzada em séries temporais: o pequeno caso de amostra

Estou interessado na seleção de modelos em uma configuração de série temporal. Por concretude, suponha que eu queira selecionar um modelo ARMA de um conjunto de modelos ARMA com diferentes ordens de atraso. A intenção final é a previsão . A seleção do modelo pode ser feita por validação cruzada, …

23 time-series forecasting cross-validation model-selection aic

2

Por que a prova de Wilks de 1938 não funciona para modelos mal especificados?

No famoso artigo de 1938 (" A distribuição de grandes amostras da razão de verossimilhança para testar hipóteses compostas ", Annals of Mathematics Statistics, 9: 60-62), Samuel Wilks derivou a distribuição assintótica de 2×LLR2×LLR2 \times LLR (razão de verossimilhança logarítmica ) para hipóteses aninhadas, supondo que a hipótese maior seja …

23 hypothesis-testing model-selection likelihood-ratio asymptotics misspecification

1

Escolhendo entre as regras de pontuação adequadas

A maioria dos recursos sobre regras de pontuação adequadas menciona várias regras de pontuação diferentes, como perda de log, pontuação de Brier ou pontuação esférica. No entanto, eles geralmente não dão muita orientação sobre as diferenças entre eles. (Anexo A: Wikipedia .) Escolher o modelo que maximiza a pontuação logarítmica …

22 machine-learning classification model-selection theory scoring-rules

3

Estabilidade modelo quando se lida com grandes , pequeno problema

Introdução: Eu tenho um conjunto de dados com um clássico "grande p, pequeno n problema". O número de amostras disponíveis n = 150, enquanto o número de possíveis preditores p = 400. O resultado é uma variável contínua. Eu quero encontrar os descritores mais "importantes", ou seja, aqueles que são …

22 regression cross-validation model-selection feature-selection elastic-net

2

Melhor abordagem para seleção de modelos bayesiana ou validação cruzada?

Ao tentar selecionar entre vários modelos ou o número de recursos a serem incluídos, digamos previsão, posso pensar em duas abordagens. Divida os dados em conjuntos de treinamento e teste. Melhor ainda, use bootstrapping ou validação cruzada k-fold. Treine sempre no conjunto de treinamento e calcule o erro sobre o …

22 bayesian model-selection cross-validation feature-selection

2

Qual é a propriedade oracle de um estimador?

Qual é a propriedade oracle de um estimador? Para quais objetivos de modelagem é relevante a propriedade do oráculo (preditivo, explicativo, ...)? As explicações teoricamente rigorosas e (especialmente) intuitivas são bem-vindas.

22 feature-selection model-selection estimators oracle

3

AIC ou valor-p: qual escolher para a seleção do modelo?

Sou novato nessa coisa de R, mas não tenho certeza de qual modelo selecionar. Fiz uma regressão passo a passo, selecionando cada variável com base no AIC mais baixo. Eu vim com três modelos que não tenho certeza qual é o "melhor". Model 1: Var1 (p=0.03) AIC=14.978 Model 2: Var1 …

22 model-selection aic stepwise-regression

Perguntas com a marcação «model-selection»