Estatísticas e Big Data

Estou interessado na seleção de modelos em uma configuração de série temporal. Por concretude, suponha que eu queira selecionar um modelo ARMA de um conjunto de modelos ARMA com diferentes ordens de atraso. A intenção final é a previsão . A seleção do modelo pode ser feita por validação cruzada, …

23 time-series  forecasting  cross-validation  model-selection  aic 

Sei que se a mediana e a média são aproximadamente iguais, isso significa que há uma distribuição simétrica, mas neste caso em particular não tenho certeza. A média e a mediana estão bem próximas (apenas 0,487 m / gal de diferença), o que me levaria a dizer que há uma …

23 distributions  mean  skewness  median  qq-plot 

No famoso artigo de 1938 (" A distribuição de grandes amostras da razão de verossimilhança para testar hipóteses compostas ", Annals of Mathematics Statistics, 9: 60-62), Samuel Wilks derivou a distribuição assintótica de 2×LLR2×LLR2 \times LLR (razão de verossimilhança logarítmica ) para hipóteses aninhadas, supondo que a hipótese maior seja …

23 hypothesis-testing  model-selection  likelihood-ratio  asymptotics  misspecification 

max(0,1−yi(w⊺xi+b))max(0,1−yi(w⊺xi+b))\max(0,1-y_i(w^\intercal x_i+b))12∥w∥2+C∑imax(0,1−yi(w⊺xi+b))12‖w‖2+C∑imax(0,1−yi(w⊺xi+b)) \frac{1}{2}\|w\|^2+C\sum_i\max(0,1-y_i(w^\intercal x_i+b)) ∥w∥2‖w‖2\|w\|^2max(0,1−yi(w⊺xi+b))max(0,1−yi(w⊺xi+b))\max(0,1-y_i(w^\intercal x_i+b)) No entanto, para o SVM de margem rígida, toda a função objetivo é apenas 12∥w∥212‖w‖2 \frac{1}{2}\|w\|^2 Isso significa que o SVM de margem rígida apenas minimiza um regularizador sem nenhuma função de perda? Isso parece muito estranho. Bem, se 12∥w∥212‖w‖2\frac{1}{2}\|w\|^2 é a função de …

23 svm  loss-functions 

Encontrei duas definições na literatura para o tempo de autocorrelação de uma série temporal fracamente estacionária: τa=1+2∑k=1∞ρkversusτb=1+2∑k=1∞|ρk|τa=1+2∑k=1∞ρkversusτb=1+2∑k=1∞|ρk| \tau_a = 1+2\sum_{k=1}^\infty \rho_k \quad \text{versus} \quad \tau_b = 1+2\sum_{k=1}^\infty \left|\rho_k\right| onde ρk=Cov[Xt,Xt+h]Var[Xt]ρk=Cov[Xt,Xt+h]Var[Xt]\rho_k = \frac{\text{Cov}[X_t,X_{t+h}]}{\text{Var}[X_t]} é a autocorrelação no atrasokkk. Uma aplicação do tempo de autocorrelação é encontrar o "tamanho efetivo da amostra": …

23 r  time-series  correlation 

Eu usei o princípio da entropia máxima para justificar o uso de várias distribuições em várias configurações; no entanto, ainda não consegui formular uma interpretação estatística, em oposição à teórica da informação, da entropia máxima. Em outras palavras, o que maximizar a entropia implica nas propriedades estatísticas da distribuição? Alguém …

23 distributions  entropy  intuition  information-theory  maximum-entropy 

Quando eu procuro no Google por "fisher" "fiducial" ... Eu recebo muitos hits, mas todos os que eu segui estão totalmente além da minha compreensão. Todos esses acertos parecem ter uma coisa em comum: todos foram escritos para estatísticos tingidos de lã, pessoas profundamente mergulhadas na teoria, prática, história e …

23 bayesian  inference  terminology  fiducial  ronald-fisher 

Eu tenho um conjunto de dados contendo no máximo 150 exemplos (divididos em treinamento e teste), com muitos recursos (acima de 1000). Preciso comparar classificadores e métodos de seleção de recursos com bom desempenho nos dados. Então, eu estou usando três métodos de classificação (J48, NB, SVM) e 2 métodos …

23 classification  feature-selection 

Eu li muitos artigos de pesquisa sobre classificação de sentimentos e tópicos relacionados. A maioria deles usa validação cruzada de 10 vezes para treinar e testar classificadores. Isso significa que nenhum teste / validação separado é feito. Por que é que? Quais são as vantagens / desvantagens dessa abordagem, especialmente …

23 classification  cross-validation 

Perguntas para iniciantes: Quero testar se dois conjuntos de dados distintos são da mesma distribuição. Um teste de Kolmogorov-Smirnov foi sugerido para mim. Conover ( Practical Nonparametric Statistics , 3d) parece dizer que o Teste de Kolmogorov-Smirnov pode ser usado para esse fim, mas seu comportamento é "conservador" com distribuições …

23 r  goodness-of-fit  discrete-data  kolmogorov-smirnov 

Eu tenho um problema de regressão de várias saídas com entrada e saídas . As saídas têm uma estrutura de correlação não linear complexa.dxdxd_xdydyd_y Eu gostaria de usar florestas aleatórias para fazer a regressão. Até onde eu sei, as florestas aleatórias para regressão funcionam apenas com uma única saída, então …

23 regression  multivariate-analysis  random-forest 

Estou procurando exemplos de como interpretar as estimativas AIC (critério de informação de Akaike) e BIC (critério de informação bayesiano). As diferenças negativas entre os BICs podem ser interpretadas como as chances posteriores de um modelo em relação ao outro? Como posso colocar isso em palavras? Por exemplo, o BIC …

23 interpretation  aic  bic 

Eu usei a prcomp()função para executar um PCA (análise de componentes principais) em R. No entanto, há um erro nessa função, de modo que o na.actionparâmetro não funciona. Eu pedi ajuda no stackoverflow ; dois usuários ofereceram duas maneiras diferentes de lidar com NAvalores. No entanto, o problema com as …

23 r  pca  missing-data  data-imputation 

Eu tenho dados com muitos recursos correlatos e quero começar reduzindo os recursos com uma função básica, antes de executar um LDA. Estou tentando usar splines cúbicos naturais no splinespacote com a nsfunção Como faço para atribuir os nós? Aqui está o código R básico: library(splines) lda.pred <- lda(y ~ …

23 r  splines 

Eu tenho um algoritmo MCMC específico que gostaria de portar para C / C ++. Grande parte da computação dispendiosa já está em C via Cython, mas quero que todo o amostrador seja escrito em uma linguagem compilada, para que eu possa escrever wrappers para Python / R / Matlab …

23 mcmc  software  c++  computing