Estatísticas e Big Data

Eu tenho uma pergunta básica sobre abordagens para modelar a média usando critérios de TI para ponderar modelos em um conjunto de candidatos. A maioria das fontes que li sobre a média do modelo defende a média das estimativas do coeficiente de parâmetros com base nos pesos do modelo (usando …

9 mixed-model  model-averaging  forecast-combination 

Dado x2=2x1x2=2x1x_2 = 2 x_1 , qual é o comportamento teórico dos coeficientes LASSO e por quê? Um de x1x1x_1 ou x2x2x_2 diminuiria para 000 ou os dois? require(glmnet) x1 = runif(100, 1, 2) x2 = 2*x1 x_train = cbind(x1, x2) y = 100*x1 + 100 + runif(1) ridge.mod = …

9 lasso  multicollinearity 

Nos estudos de psicologia, aprendi que deveríamos usar o método de Bonferroni para ajustar o nível de significância ao testar várias hipóteses em um único conjunto de dados. Atualmente, estou trabalhando com métodos de aprendizado de máquina, como Support Vector Machines ou Random Forest para classificação. Aqui eu tenho um …

9 machine-learning  cross-validation  svm  overfitting  bonferroni 

O artigo sobre GANs diz que o discriminador usa o seguinte gradiente para treinar: ∇θd1m∑i = 1m[ logD ( x( I )) +log( 1 - D ( G ( z( I )) ) ) ]∇θd1m∑i=1m[log⁡D(x(i))+log⁡(1−D(G(z(i))))]\nabla _{\theta_d} \frac{1}{m}\sum^{m}_{i=1} [\log{D(x^{(i)})} + \log{(1-D(G(z^{(i)})))}] Os valores são amostrados, passados ​​através do gerador para gerar …

9 machine-learning  neural-networks 

Se que o suporte de é . Então, . Então diga que eu suponho que tenha momentos finitos. Quando , eu sei que os meios de onde é a densidade associado de . Qual o equivalente matemático de assumir tem momentos finitos quando ?X∼ FX∼FX \sim FXXXRpRp\mathbb{R}^pX= ( X1, X2, …

9 probability  random-variable  expected-value  moments 

Dado dois conjuntos de dados multidimensionais, e Y , algumas pessoas realizam análises multivariáveis ​​criando uma variável dependente substituta usando a análise de componentes principais (PCA). Ou seja, execute PCA no conjunto Y , faça pontuações ao longo do primeiro componente y ' e execute uma regressão múltipla dessas pontuações …

9 regression  multiple-regression  pca  canonical-correlation 

Tenho a seguinte pergunta em mãos: Suponha que são variáveis aleatórias iid , seguindo Unif . qual é a distribuição condicional de dado ?U,VU,VU,V(0,1)(0,1)(0,1)UUUZ:=max(U,V)Z:=max(U,V)Z:=\max(U,V) Tentei escrever Z= I ⋅ V+ ( 1 - I ) ⋅ UZ=I⋅V+(1−I)⋅UZ=\Bbb{I}\cdot V+(1-\Bbb{I})\cdot U onde I = { 10 0você< Vvocê> VI={1U<V0U>V\Bbb{I}=\begin{cases}1&U;V\end{cases} Mas não estou …

9 probability  distributions  uniform  conditioning 

Existem tantas técnicas de regularização que não é prático experimentar todas as combinações: l1 / l2 norma máxima cair fora parada antecipada ... Parece que a maioria das pessoas está satisfeita com a combinação de abandono e parada precoce: há casos em que o uso de outras técnicas faz sentido? …

9 neural-networks  regularization  dropout 

Seja por exemplo, o seu número de dias restantes. Um médico 1 avalia a distribuição de como um gaussiano: . Outro médico independente 2 avalia . Ambos os médicos são igualmente confiáveis. Como combinar as duas informações?X P ( X ) ∼ N ( μ 1 , σ 1 ) …

9 probability  normal-distribution 

Dadas as variáveis ​​aleatórias X1,X2,⋯,XnX1,X2,⋯,XnX_1,X_2, \cdots, X_n amostra amostrada de , defina ∼N(0,σ2)∼N(0,σ2)\sim \mathcal{N}(0, \sigma^2)Z=maxi∈{1,2,⋯,n}XiZ=maxi∈{1,2,⋯,n}XiZ = \max_{i \in \{1,2,\cdots, n \}} X_i Temos esse E[Z]≤σ2logn−−−−−√E[Z]≤σ2log⁡n\mathbb{E}[Z] \le \sigma \sqrt{2 \log n} . Eu queria saber se existem limites superiores / inferiores em Var ( Z)Var(Z)\text{Var}(Z) ?

9 probability  normal-distribution  mathematical-statistics  variance 

Dada 3 variáveis aleatórias X1X1X_1 , X2X2X_2 e YYY . YYY e X1X1X_1 são independentes. YYY e X2X2X_2 são independentes. Intuitivamente, eu assumiria que YYY e X1+X2X1+X2X_1+X_2 são independentes. É esse o caso e como posso provar isso formalmente?

9 independence 

Considere a função r ( x ) = E ( Y∣ X= x )r(x)=E(Y∣X=x) r(x) = \mathbb{E}(Y \mid X = x) Isso foi chamado de função de regressão em um livro que estou usando. Estou tentando descobrir a relação entre essa função e o modelo clássico de regressão linear. Então, …

9 regression  linear-model 

Atualmente, estou estimando um modelo de volatilidade estocástica com os métodos Monte Carlo da Cadeia de Markov. Assim, estou implementando os métodos de amostragem de Gibbs e Metropolis. Supondo que eu considere a média da distribuição posterior, e não uma amostra aleatória, é isso que é comumente chamado de Rao-Blackwellization …

9 mcmc  monte-carlo  gibbs  point-estimation  rao-blackwell 

Essa pergunta surgiu no trabalho quando alguém me perguntou qual era a relação entre um percentil e um intervalo de confiança, e tive dificuldade em articular meus pensamentos. O contexto era uma pergunta muito simples em relação à estimativa de um intervalo de confiança de 95% na média da amostra. …

9 confidence-interval  quantiles  mean 

Um valor-p é a probabilidade de obter uma estatística que seja pelo menos tão extrema quanto a observada nos dados da amostra ao assumir que a hipótese nula ( ) é verdadeira.H0H0H_0 Graficamente, isso corresponde à área definida pela estatística da amostra sob a distribuição amostral que se obteria ao …

9 hypothesis-testing  confidence-interval  p-value