Estatísticas e Big Data

Na minha opinião, os dados de entrada correlacionados devem levar ao sobreajuste nas redes neurais, porque a rede aprende a correlação, por exemplo, ruído nos dados. Isso está correto?

13 correlation  neural-networks  overfitting 

Nesta página central do AP Variações Aleatórias vs. Variáveis ​​Algébricas , o autor Peter Flanagan-Hyde faz uma distinção entre variáveis ​​algébricas e aleatórias. Em parte ele diz x+x=2xx+x=2xx + x = 2x , mas X+X≠2XX+X≠2XX + X \neq 2X - de fato, é o subtítulo do artigo. Qual é a …

13 probability  random-variable 

Eu sou novo na pesquisa estatística bayesiana. Ouvi de pesquisadores que pesquisadores bayesianos implementam melhor o MCMC por eles mesmos do que usando ferramentas como JAGS / Stan. Posso perguntar qual é o benefício de implementar o algoritmo MCMC por si mesmo (em linguagens "não muito rápidas" como R), exceto …

13 bayesian  mcmc 

Estou prestes a terminar minhas honras em estatística e realmente quero fazer um doutorado porque acho as estatísticas matemáticas extremamente interessantes. As áreas de pesquisa nas quais eu mais quero fazer doutorado são processos estocásticos e séries temporais. No entanto, também quero seguir uma carreira no setor privado após meu …

13 mathematical-statistics  careers  phd 

Dadas duas variáveis ​​aleatórias ξξ\xi e ηη\eta , podemos calcular seu "coeficiente de correlação" ccc e formar a linha de melhor ajuste entre essas duas variáveis ​​aleatórias. Minha pergunta é por que? 1) Existem variáveis ​​aleatórias, ξξ\xi e ηη\eta que são dependentes da pior maneira possível, ou seja, ξ=f(η)ξ=f(η)\xi = …

13 regression 

No livro de Bishop sobre aprendizado de máquina, ele discute o problema de ajustar uma função polinomial a um conjunto de pontos de dados. Seja M a ordem do polinômio ajustado. Ele afirma que Vemos que, à medida que M aumenta, a magnitude dos coeficientes geralmente aumenta. Em particular para …

13 regression  least-squares  curve-fitting  polynomial 

Recentemente, revi alguns artigos antigos de Nancy Reid, Barndorff-Nielsen, Richard Cox e, sim, um pouco de Ronald Fisher sobre o conceito de "inferência condicional" no paradigma freqüentista, o que parece significar que as inferências são baseadas considerando apenas o "subconjunto relevante" do espaço de amostra, não de todo o espaço …

13 confidence-interval  maximum-likelihood  inference 

Ao inicializar pesos de conexão em uma rede neural de feedforward, é importante inicializá-los aleatoriamente para evitar simetrias que o algoritmo de aprendizado não seria capaz de quebrar. A recomendação que vi em vários locais (por exemplo, no tutorial MNIST do TensorFlow ) é usar a distribuição normal truncada usando …

13 neural-networks  backpropagation  weights  truncated-normal 

Quero saber o que é e como é diferente do conjunto? Suponha que eu queira alcançar alta precisão na classificação e segmentação, para uma tarefa específica, se eu usar redes diferentes, como CNN, RNN, etc. para conseguir isso, isso é chamado de modelo de ponta a ponta? (arquitetura?) ou não?

13 machine-learning  terminology  deep-learning 

Em seu blog , o físico Steve Hsu escreveu o seguinte: Supondo uma distribuição normal, existem apenas cerca de 10.000 pessoas nos EUA que atuam no + 4SD e um número semelhante na Europa, portanto essa é uma população bastante selecionada (aproximadamente, as poucas centenas de idosos do ensino médio …

13 normal-distribution 

Antecedentes: recentemente entendi em um nível mais profundo a importância do aumento de dados ao treinar redes neurais convolucionais depois de assistir a essa excelente palestra de Geoffrey Hinton . Ele explica que as redes neurais convolucionais da geração atual não são capazes de generalizar o quadro de referência do …

13 machine-learning  deep-learning 

Como se deve transformar um resultado freqüentista em um prior bayesiano? Considere o seguinte cenário bastante genérico: Um experimento foi realizado no passado e um resultado em algum parâmetro foi medido. A análise foi realizada com uma metodologia frequentista. Um intervalo de confiança para ϕ é dado nos resultados.ϕϕ\phiϕϕ\phi Agora …

13 bayesian  confidence-interval  meta-analysis  prior 

Até onde eu sei, a diferença entre o modelo logístico e o modelo de resposta fracionária (frm) é que a variável dependente (Y) na qual frm é [0,1], mas a logística é {0, 1}. Além disso, a frm usa o estimador de quase-verossimilhança para determinar seus parâmetros. Normalmente, podemos usar …

13 r  logistic  generalized-linear-model  quasi-likelihood 

Então, eu tenho um processo aleatório gerando variáveis ​​aleatórias normalmente distribuídas em log XXX. Aqui está a função de densidade de probabilidade correspondente: Eu queria estimar a distribuição de alguns momentos dessa distribuição original, digamos o primeiro momento: a média aritmética. Para isso, desenhei 100 variáveis ​​aleatórias 10.000 vezes, para …

13 estimation  bias  fitting  lognormal  moments 

Minha pergunta diz respeito aos anteriores dos tamanhos dos efeitos, no meu projeto a medida é o de Cohen . Ao ler a literatura, parece que vagas vagas são frequentemente usadas, como no conhecido exemplo de oito escolas de uma meta-análise bayesiana hierárquica. No exemplo das oito escolas, vi um …

13 bayesian  meta-analysis  effect-size