Estatísticas e Big Data

Nota: = soma dos quadrados total, = soma dos erros quadrados e = soma dos quadrados por regressão. A equação no título é frequentemente escrita como:SSTSSTSSTSSESSESSESSRSSRSSR ∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2\sum_{i=1}^n (y_i-\bar y)^2=\sum_{i=1}^n (y_i-\hat y_i)^2+\sum_{i=1}^n (\hat y_i-\bar y)^2 Pergunta bastante direta, mas estou procurando uma explicação intuitiva. Intuitivamente, parece-me que faria mais sentido. Por …

14 regression  least-squares  r-squared 

Esta questão lida com a estimativa de máxima verossimilhança restrita (REML) em uma versão específica do modelo linear, a saber: Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)),Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)), Y = X(\alpha)\beta + \epsilon, \\ \epsilon\sim N_n(0, \Sigma(\alpha)), onde X(α)X(α)X(\alpha) é uma matriz ( ) parametrizada por , como . é um vetor desconhecido de parâmetros incômodos; o …

14 mixed-model  maximum-likelihood  linear-model  optimization  reml 

Eu tenho alguns dados que gostaria de suavizar para que os pontos suavizados diminuam monotonicamente. Meus dados diminuem acentuadamente e depois começam a se espalhar. Aqui está um exemplo usando R df <- data.frame(x=1:10, y=c(100,41,22,10,6,7,2,1,3,1)) ggplot(df, aes(x=x, y=y))+geom_line() O que é uma boa técnica de suavização que eu poderia usar? …

14 regression  smoothing 

Eu estava lendo sobre otimização para um problema mal colocado na visão por computador e me deparei com a explicação abaixo sobre otimização na Wikipedia. O que eu não entendo é: por que eles chamam essa otimização de " minimização de energia " no Computer Vision? Um problema de otimização …

14 machine-learning  optimization  computer-vision 

Essa questão é suscitada pela pergunta: quando (se é que alguma vez) é uma abordagem freqüentista substancialmente melhor do que uma bayesiana? Como eu postei na minha solução para essa pergunta, na minha opinião, se você é freqüentador, não precisa acreditar / aderir ao princípio da probabilidade, pois muitas vezes …

14 bayesian  likelihood  likelihood-principle 

Ao explicar por que não correlacionado não implica independente, existem vários exemplos que envolvem um monte de variáveis ​​aleatórias, mas todas parecem muito abstratas: 1 2 3 4 . Essa resposta parece fazer sentido. Minha interpretação: Uma variável aleatória e seu quadrado podem não estar correlacionados (já que aparentemente a …

14 correlation  independence  non-independent  garch  intuition 

Em Thinking, Fast and Slow , Daniel Kahneman coloca a seguinte pergunta hipotética: (P. 186) Atualmente, Julie está no último ano de uma universidade estadual. Ela leu fluentemente quando tinha quatro anos de idade. Qual é a média de notas (GPA)? Sua intenção é ilustrar como muitas vezes deixamos de …

14 standard-deviation  regression-coefficients  regression-to-the-mean 

Vamos resumir um fluxo de variáveis aleatórias, Xi∼iidU(0,1)Xi∼iidU(0,1)X_i \overset{iid}\sim \mathcal{U}(0,1) ; seja YYY o número de termos que precisamos para que o total exceda um, ou seja, YYY é o menor número que X1+X2+⋯+XY>1.X1+X2+⋯+XY>1.X_1 + X_2 + \dots + X_Y > 1. Por que a média de YYY igual a …

14 probability  self-study  expected-value  uniform 

Os modelos de mistura gaussiana (GMMs) são atraentes porque são simples de trabalhar tanto analiticamente quanto na prática e são capazes de modelar algumas distribuições exóticas sem muita complexidade. Há algumas propriedades analíticas que devemos esperar manter que não são claras em geral. Em particular: Diga SnSnS_n é a classe …

14 probability  normal-distribution  references  gaussian-mixture  information-theory 

O tratamento clássico da inferência estatística se baseia na suposição de que uma estatística especificada corretamente é usada. Ou seja, a distribuição que gerou os dados observados faz parte do modelo estatístico : No entanto, na maioria das situações, não podemos assumir que isso seja realmente verdade. Eu me pergunto …

14 hypothesis-testing  confidence-interval  model  frequentist  misspecification 

Ao examinar os vetores próprios da matriz de covariância, obtemos as direções da variação máxima (o primeiro vetor próprio é a direção na qual os dados variam mais etc.); isso é chamado de análise de componentes principais (PCA). Fiquei imaginando o que significaria olhar para os autovetores / valores da …

14 pca  entropy  mutual-information  eigenvalues 

Todos os exemplos que encontrei usando crenças profundas ou redes neurais convolucionais os usam para classificação de imagens, detecção de chatacter ou reconhecimento de fala. As redes neurais profundas também são úteis para tarefas clássicas de regressão, onde os recursos não são estruturados (por exemplo, não organizados em uma sequência …

14 regression  machine-learning  neural-networks  deep-learning 

Tenho lido alguns artigos e não estou claro sobre as definições específicas de Efeito Médio do Tratamento (ATE) e Efeito Marginal do Tratamento (MTE). Eles são os mesmos? De acordo com Austin ... Um efeito condicional é o efeito médio, no nível do sujeito, de mover um sujeito de não …

14 causality  hazard  propensity-scores  marginal-effect  marginal-model 

Estou classificando imagens usando aprendizado de máquina. Suponha que eu tenha alguns dados de treinamento (imagens) e os divida em conjuntos de treinamento e validação. E também quero aumentar os dados (produzir novas imagens a partir das originais) por rotações aleatórias e injeção de ruído. O aumento é feito offline. …

14 machine-learning  classification  cross-validation  dataset  data-augmentation 

Meu treinamento estatístico está enraizado nas estatísticas matemáticas, e as aulas desses métodos no meu MS são um choque no momento; atualmente é difícil para mim entender alguns desses métodos "aplicados", pois não tenho experiência no setor. Um dos tópicos sobre os quais falamos nas aulas de métodos é a …

14 references  experiment-design