Estatísticas e Big Data

No curso de aprendizado de máquina de Andrew Ng, ele usa esta fórmula: ∇Atr(ABATC)=CAB+CTABT∇Atr(ABATC)=CAB+CTABT\nabla_A tr(ABA^TC) = CAB + C^TAB^T e ele faz uma prova rápida, que é mostrada abaixo: ∇Atr(ABATC)=∇Atr(f(A)ATC)=∇∘tr(f(∘)ATC)+∇∘tr(f(A)∘TC)=(ATC)Tf′(∘)+(∇∘Ttr(f(A)∘TC)T=CTABT+(∇∘Ttr(∘T)Cf(A))T=CTABT+((Cf(A))T)T=CTABT+CAB∇Atr(ABATC)=∇Atr(f(A)ATC)=∇∘tr(f(∘)ATC)+∇∘tr(f(A)∘TC)=(ATC)Tf′(∘)+(∇∘Ttr(f(A)∘TC)T=CTABT+(∇∘Ttr(∘T)Cf(A))T=CTABT+((Cf(A))T)T=CTABT+CAB\nabla_A tr(ABA^TC) \\ = \nabla_A tr(f(A)A^TC) \\ = \nabla_{\circ} tr(f(\circ)A^TC) + \nabla_{\circ}tr(f(A)\circ^T C)\\ =(A^TC)^Tf'(\circ) + (\nabla_{\circ^T}tr(f(A)\circ^T C)^T \\ = C^TAB^T + …

10 machine-learning  matrix  derivative 

Após algumas discussões (abaixo), agora tenho uma imagem mais clara de uma pergunta focada, então aqui está uma pergunta revisada, embora alguns dos comentários possam parecer desconectados da pergunta original. Parece que os testes t convergem rapidamente para distribuições simétricas , que o teste de classificação assinada assume simetria e …

10 hypothesis-testing  t-test  paired-data  wilcoxon-signed-rank  sign-test 

Digamos que temos uma lista ordenada de itens [a, b, c, ... x, y, z, ...] Estou procurando uma família de distribuições com suporte na lista acima, governada por algum parâmetro alfa, para que: Para alfa = 0, atribui a probabilidade 1 ao primeiro item, a acima, e 0 ao …

10 distributions  sampling  discrete-data 

Estou interessado na interação tratamento-covariáveis no contexto de experiências / ensaios clínicos randomizados, com um binário indicador de atribuição de tratamento .TTT Dependendo do método / fonte específico, vi e para os sujeitos tratados e os não tratados, respectivamente.T = { 1 , - 1 }T= { 1 , 0 …

10 binary-data  categorical-encoding 

É apenas a agregação de pontos de dados? Ou é a representação dos pontos de dados para diferentes elementos em um formato tabular organizado com valores das diferentes variáveis? Qual a diferença dos dados brutos?

10 dataset  terminology  definition 

[Uma pergunta semelhante foi feita aqui sem respostas] Eu ajustei um modelo de regressão logística com regularização L1 (regressão logística Lasso) e gostaria de testar os coeficientes ajustados quanto à significância e obter seus valores-p. Sei que os testes de Wald (por exemplo) são uma opção para testar o significado …

10 logistic  statistical-significance  regression-coefficients  lasso 

Estou tentando calcular manualmente as previsões de efeitos aleatórios a partir de um modelo misto linear e usando a notação fornecida por Wood em Modelos Aditivos Generalizados: uma introdução ao R (página 294 / página 307 do pdf), estou ficando confuso sobre o que cada parâmetro representa. Abaixo está um …

10 mixed-model  lme4-nlme 

Eu estou querendo saber como abordar adequadamente o treinamento e o teste de um modelo LASSO usando glmnet no R? Especificamente, estou pensando em como fazer isso, se a falta de um conjunto de dados de teste externo exigir que eu use a validação cruzada (ou outra abordagem semelhante) para …

10 r  cross-validation  glmnet  lasso 

Considere o seguinte modelo de regressão múltipla:Y=Xβ+Zδ+U.(1)(1)Y=Xβ+Zδ+U.Y=X\beta+Z\delta+U.\tag{1} Aqui é um vetor n \ vezes 1 coluna; Matriz X a n \ times (k + 1) ; \ beta a (k + 1) \ vezes 1 vetor de coluna; Z a n \ vezes l matriz; \ delta a l \ …

10 regression  multiple-regression  econometrics  least-squares  nonlinear-regression 

Variável aleatória é definida como uma função mensurável de um -álgebra com a medida subjacente para outro -álgebra .XXXσσ\sigma(Ω1,F1)(Ω1,F1)(\Omega_1, \mathcal F_1)PPPσσ\sigma(Ω2,F2)(Ω2,F2)(\Omega_2, \mathcal F_2) Como falamos sobre uma amostra dessa variável aleatória? Nós o tratamos como um elemento de ? Ou como a mesma função mensurável que ?XnXnX^nΩ2Ω2\Omega_2XXX Onde posso ler …

10 sampling  random-variable  simulation 

Suponha que seja um estimador imparcial para . Então, é claro, . θE[ θ |θ]=θθ^θ^\hat{\theta}θθ\thetaE [ θ^∣ θ ] = θE[θ^∣θ]=θ\mathbb{E}[\hat{\theta} \mid \theta] = \theta Como alguém explica isso a um leigo? No passado, o que eu disse é que se você calcula a média de vários valores de , …

10 bias  asymptotics  unbiased-estimator  estimators  communication 

Atualmente, estou usando uma abordagem bayesiana para estimar parâmetros para um modelo que consiste em vários ODEs. Como tenho 15 parâmetros para estimar, meu espaço de amostragem é tridimensional e minha busca por distribuição posterior parece ter muitos máximos locais muito isolados por grandes regiões de probabilidade muito baixa. Isso …

10 bayesian  mcmc  monte-carlo  ergodic 

Como o título indica, estou tentando replicar os resultados do glmnet linear usando o otimizador LBFGS da biblioteca lbfgs. Esse otimizador nos permite adicionar um termo regularizador L1 sem ter que nos preocupar com diferenciabilidade, desde que nossa função objetivo (sem o termo regularizador L1) seja convexa. O problema da …

10 r  regression  regularization  glmnet  elastic-net 

Exceto árvores de decisão e regressão logística, que outros modelos de classificação fornecem boa interpretação? Não estou interessado na precisão ou em outros parâmetros, apenas a interpretação dos resultados é importante.

10 interpretation  supervised-learning 

Em termos da diferença entre rede neural e aprendizado profundo, podemos listar vários itens, como mais camadas incluídas, conjunto de dados massivo, hardware de computador poderoso para tornar possível o modelo complicado de treinamento. Além dessas, existem explicações mais detalhadas sobre a diferença entre NN e DL?

10 machine-learning  neural-networks  deep-learning  conv-neural-network  deep-belief-networks