Estatísticas e Big Data

Pretendo estimar um GLM hierárquico, mas com a seleção de recursos para determinar quais covariáveis ​​são relevantes no nível da população a serem incluídas. Suponha que eu tenha grupos com observações e possíveis covariáveis ​​Ou seja, possuo uma matriz de design de covariáveis \ boldsymbol {x} _ {(N \ cdot …

8 machine-learning  bayesian  feature-selection  hierarchical-bayesian  shrinkage 

Às vezes, vejo as pessoas usarem a aproximação de taylor da seguinte maneira: E(ex)≈E(1+x)E(ex)≈E(1+x)E(e^x)\approx E(1+x) Eu sei que a aproximação de taylor funciona para ex≈1+xex≈1+xe^x \approx 1+x Mas não está claro para mim que podemos fazer a aproximação dentro do operador de expectativa. Intuitivamente, acho que funcionará se "a probabilidade …

8 expected-value  approximation 

Estou lendo um artigo introdutório impressionante do HMC, do Prof. Michael Betancourt, mas fiquei preso ao entendimento de como podemos escolher a distribuição do momento. Sumário A idéia básica do HMC é introduzir uma variável de momento em conjunto com a variável de destino q . Eles formam conjuntamente um …

8 mcmc  monte-carlo  hmc 

Eu sou novo no ML. Fui informado de que a normalização L2 da regressão de crista não pune a interceptação . Como na função de custo: O termo de normalização de L2 apenas soma de a , não de a . Eu também li que: ∇ θ J ( θ …

8 machine-learning  ridge-regression 

No aprendizado por reforço, uma política é sempre determinística ou é uma distribuição de probabilidade entre as ações (das quais provamos)? Se a política é determinística, por que não é a função value, definida em um determinado estado para uma determinada política seguinte maneiraππ\pi Vπ(s)=E[∑t>0γtrt|s0=s,π]Vπ(s)=E[∑t>0γtrt|s0=s,π]V^{\pi}(s) = E\left[\sum_{t>0} \gamma^{t}r_t|s_0 = s, …

8 reinforcement-learning  deterministic-policy  stochastic-policy 

Atualmente, o aprendizado profundo é um tema cada vez mais popular. Quais são as principais premissas que tornam falta o aprendizado profundo em alguns conjuntos de dados. Ex: tem bom desempenho em conjuntos de dados ruidosos?

8 machine-learning  mathematical-statistics  deep-learning 

Eu tenho um conjunto de dados com 338 preditores e 570 instâncias (infelizmente não é possível carregar) no qual estou usando o Lasso para executar a seleção de recursos. Em particular, estou usando a cv.glmnetfunção da glmnetseguinte maneira, onde mydata_matrixé uma matriz binária de 570 x 339 e a saída …

8 r  classification  lasso  glmnet 

É bastante intuitivo que a maioria das arquiteturas / topologias de redes neurais não seja identificável. Mas quais são alguns resultados bem conhecidos no campo? Existem condições simples que permitem / impedem a identificação? Por exemplo, todas as redes com funções de ativação não lineares e mais de uma camada …

8 neural-networks  conv-neural-network  rnn  identifiability 

Este problema surgiu em minha pesquisa: suponha que sejam distribuições exponenciais (ED) com média e permita que seja um número não negativo. É verdade que Isso passa na verificação de sanidade, pois o valor esperado de ambos os lados é igual a , e se deixarmos , o lado esquerdo …

8 distributions  mathematical-statistics  poisson-distribution  exponential  saddlepoint-approximation 

No nível do modelo, para avaliar a contribuição / importância do preditor, podemos usar: Técnicas específicas do modelo - por exemplo, pureza (Índice de Gini) para um modelo baseado em árvore, coeficientes do modelo, quando aplicável, etc. Técnicas independentes de modelo - por exemplo, importância da característica de permutação, dependência …

8 machine-learning  predictive-models 

Digamos que eu estime a seguinte regressão linear multivariada Como posso testar isso ?β 1 = β 2 = β 3y= β0 0+ β1x1+ β2x2+ β3x3+ β4x4+ ϵy=β0+β1x1+β2x2+β3x3+β4x4+ϵ y = \beta_0 +\beta_1 x_1 +\beta_2 x_2+\beta_3x_3+\beta_4x_4 + \epsilonβ1= β2= β3β1=β2=β3\beta_1=\beta_2=\beta_3 Eu sei que para testar se você pode simplesmente construir um …

8 regression  hypothesis-testing  multiple-regression 

Estou tentando entender qual é a diferença entre o recozimento simulado e a execução de vários algoritmos gananciosos de escalada. Pelo meu entendimento, o algoritmo ganancioso aumentará a pontuação para um máximo local, mas se começarmos com várias configurações aleatórias e aplicá-lo a todas elas, teremos vários máximos locais. Então …

8 machine-learning  optimization  algorithms 

O estudo que estou analisando relata a altura média para 20 indivíduos com 1,70 metro, com um desvio padrão de 0,0. Isso significa que todos os 20 têm exatamente 1,70 metro? Ou isso é um erro de relatório?

8 standard-deviation  reporting 

Essa pergunta parece fundamental o suficiente para que eu esteja convencido de que foi respondida aqui em algum lugar, mas não a encontrei. Entendo que, se a variável dependente em uma regressão é normalmente distribuída, a probabilidade máxima e os mínimos quadrados comuns produzem as mesmas estimativas de parâmetro. Quando …

8 regression  maximum-likelihood  least-squares  blue 

Fechado . Esta questão precisa ser mais focada . No momento, não está aceitando respostas. Deseja melhorar esta pergunta? Atualize a pergunta para que ela se concentre apenas em um problema editando esta postagem . Fechado há 2 anos . Sou um bayesiano de mente simples que se sente confortável …

8 bayesian  references  frequentist