Estatísticas e Big Data

Em 2015, Tishby e Zaslavsky publicaram um artigo bem conhecido, alegando que o chamado Princípio do Gargalo da Informação poderia ser usado para entender algum comportamento de redes neurais profundas. Em um artigo mais recente (abril de 2017) , Schwartz-Ziv e Tishby expandem essas reivindicações, visualizando em particular alguns dos …

7 neural-networks  references  deep-learning  information-theory 

Há algo que está me confundindo sobre estimadores de probabilidade máxima. Suponha que eu tenha alguns dados e a probabilidade sob um parâmetro sejaμμ\mu L ( D | μ ) =e- ( 0,7 - μ)2L(D|μ)=e−(.7−μ)2 L(D|\mu) = e^{-(.7-\mu)^2} que é reconhecível como a probabilidade de aumento gaussiano de escala. Agora, …

7 bayesian  maximum-likelihood  frequentist 

Sou estudante de estatística. Estou tentando entender as definições clássicas e objetivas de probabilidade e como elas estão relacionadas à inferência freqüentista e bayesiana. Não é óbvio para mim por que a probabilidade clássica é combinada com a inferência freqüentista e por que a inferência bayesiana é combinada com a …

7 probability  bayesian  p-value  likelihood  frequentist 

Eu pensei que a validação cruzada K-fold consiste nas seguintes etapas. Divida os dados aleatoriamente em pedaços.KKK Encaixe em pedaços .K- 1K-1 1K-1 Prever no pedaço restante. Mantenha previsões. Repita 2-3 para todas as combinações remanescentes de dos pedaços que omitem 1 pedaço.K- 1K-1 1K-1KKK Avalie a estatística de perda …

7 machine-learning  cross-validation 

Suponha que eu tenha um texto como o abaixo, que geralmente tem 2/3 frases e 100-200 caracteres. Johny comprou leite de 50 dólares do walmart. Agora ele deixou apenas 20 dólares. Eu quero extrair Nome da pessoa: Johny Gasto: 50 dólares Dinheiro restante: 20 dólares. Passado para onde: Walmart. Passei …

7 machine-learning  deep-learning  data-mining  text-mining  rnn 

Eles devem estar perto do meio (origem) ou fechar sua superfície?

7 distributions  high-dimensional 

Em muitos livros didáticos, quando um modelo bayesiano é apresentado, como um modelo normal-normal clássico, há algum tipo de breve menção de que os ensaios devem ser intercambiáveis. Pergunto-me por que isso é necessário e o que dá errado se a permutabilidade não é válida. Alguém tem respostas concisas?

7 bayesian  modeling  intuition  exchangeability 

Eu tenho seis anos em uma função de negócios e tenho um bacharelado em física e matemática aplicada / estatísticas. "The Big Picture", de Sean Carroll (físico da Caltech) me abriu a idéia de que as estatísticas bayesianas são uma maneira útil de pensar em qualquer coisa - inevitavelmente você …

7 bayesian 

Considere regressão líquida elástica com glmnetparametrização semelhante à função de perdaL=12n∥∥y−β0−Xβ∥∥2+λ(α∥β∥1+(1−α)∥β∥22/2).L=12n‖y−β0−Xβ‖2+λ(α‖β‖1+(1−α)‖β‖22/2).\mathcal L = \frac{1}{2n}\big\lVert y - \beta_0-X\beta\big\rVert^2 + \lambda\big(\alpha\lVert \beta\rVert_1 + (1-\alpha) \lVert \beta\rVert^2_2/2\big).Eu tenho um conjunto de dados com n≪pn≪pn\ll p (44 e 3000 respectivamente) e estou usando a validação cruzada de 11 vezes repetida para selecionar os parâmetros …

7 regression  cross-validation  model-selection  regularization  elastic-net 

Suponha que , e . Estou interessado em calcular percentis de . Podemos assumir a normalidade bivariada.X∼ N(μx,σ2x)X∼N(μx,σx2)X \sim N(\mu_x,\sigma_x^2)Y∼ N(μy,σ2y)Y∼N(μy,σy2)Y \sim N(\mu_y,\sigma_y^2)Corr( X, Y) = ρCorr⁡(X,Y)=ρ\operatorname{Corr}(X,Y)=\rhoZ= max ( X, Y)Z=max(X,Y)Z = \max(X,Y) Sei como encontrar o pdf, a média e a variação de , mas estou tendo problemas para …

7 probability  order-statistics 

Estou tentando entender a relação entre o beta-binomial e a distribuição binomial. Mais especificamente, estou tentando mostrar que o limite da distribuição beta-binomial, com é binomial quando a + b vai para o infinito. Estou tendo problemas para mostrá-lo. Qualquer dica útil seria muito útil.p=a/(a+b)p=a/(a+b)p=a/(a+b)a+ba+ba+b Para isso, acredito que devo …

7 distributions  beta-distribution  beta-binomial 

Recentemente me deparei com Processos Gaussianos em Gelman et al. (2013), e estou tentando aprender mais sobre seu potencial aplicativo para uso na imputação de dados de séries temporais. Os dados de interesse são uma única série temporal variável da freqüência cardíaca de um indivíduo coletada usando um fotopletismograma (PPG; …

7 time-series  gaussian-process  data-imputation  stan 

Nota Sou usuário iniciante deste site e não sei ao certo o que determina a abrangência de uma pergunta. Limitei conscientemente a questão a princípios gerais, a fim de evitar que ela fosse muito ampla (pedindo exemplos etc.). No entanto, se for muito amplo, informe-me nos comentários e sugira como …

7 rating 

A regra dos três afirma que, se observarmos como 0, então é um intervalo de confiança de 95% para p . Estou confuso sobre a derivação dessa regra na Wikipedia e em outros lugares.Y∼Bin(n,p)Y∼Bin(n,p)Y\sim \text{Bin}(n,p)[0,3/n][0,3/n][0,3/n]ppp A Wikipedia equivale a encontrar um intervalo de confiança de 95% para encontrar todos os …

7 mathematical-statistics  confidence-interval 

Eu tenho uma pergunta sobre previsão. Estou construindo um modelo de inventário em torno de armazéns, onde todos os armazéns têm vários clientes / países atribuídos. Eu tenho dados de vendas para todos os países separadamente, para que eu possa executar minhas previsões nesses dados para obter uma previsão da …

7 time-series  forecasting  sum