Perguntas com a marcação «bayesian»

A definição mais simples de uma estatística suficiente na perspectiva freqüentista é dada aqui na Wikipedia . No entanto, recentemente me deparei em um livro bayesiano, com a definição . É declarado no link que ambos são equivalentes, mas não vejo como. Além disso, na mesma página, na seção «Outros …

9 bayesian  mathematical-statistics  sufficient-statistics 

Recentemente, assisti a essa palestra de Eric J. Ma e verifiquei sua entrada no blog , onde ele cita Radford Neal, que os modelos bayesianos não se ajustam demais (mas podem se ajustar demais ) e, ao usá-los, não precisamos de conjuntos de testes para validá-los (por as aspas parecem …

9 machine-learning  bayesian  cross-validation  deep-learning 

No artigo chamado Aprendizagem Profunda e o Princípio do Gargalo de Informações, os autores declaram na seção II A) o seguinte: Neurônios únicos classificam apenas entradas linearmente separáveis, pois podem implementar apenas hiperplanos em seu espaço de entrada . Os hiperplanos podem classificar os dados de maneira ideal quando as …

9 bayesian  neural-networks  information-theory 

Casella e Berger declaram a propriedade de invariância do estimador de ML da seguinte maneira: No entanto, parece-me que eles definem a "probabilidade" de ηη\eta de uma maneira completamente ad hoc e sem sentido: Se eu aplicar regras básicas da teoria das probabilidades ao caso simples em que , obtenho …

9 self-study  bayesian  maximum-likelihood  frequentist  invariance 

Considere o gráfico abaixo no qual simulei os dados da seguinte maneira. Observamos um resultado binário para o qual a verdadeira probabilidade de ser 1 é indicada pela linha preta. A relação funcional entre uma covariável e é 3 polinomial ordem com ligação logístico (por isso é não linear num …

9 regression  logistic  bayesian  confidence-interval  credible-interval 

Eu tenho um conjunto de dados com três variáveis, onde todas as variáveis ​​são quantitativas. Vamos chamá-lo de , e . Estou ajustando um modelo de regressão em uma perspectiva bayesiana via MCMC comx 1 x 2yyyx1x1x_1x2x2x_2rjags Fiz uma análise exploratória e o gráfico de dispersão de sugere que um …

9 bayesian  feature-selection  model-selection  model  credible-interval 

Exemplos: Eu tenho uma frase na descrição do trabalho: "Java senior engineer in UK". Eu quero usar um modelo de aprendizado profundo para prever em duas categorias: English e IT jobs. Se eu usar o modelo de classificação tradicional, ele poderá prever apenas 1 rótulo com softmaxfunção na última camada. …

9 machine-learning  deep-learning  natural-language  tensorflow  sampling  distance  non-independent  application  regression  machine-learning  logistic  mixed-model  control-group  crossover  r  multivariate-analysis  ecology  procrustes-analysis  vegan  regression  hypothesis-testing  interpretation  chi-squared  bootstrap  r  bioinformatics  bayesian  exponential  beta-distribution  bernoulli-distribution  conjugate-prior  distributions  bayesian  prior  beta-distribution  covariance  naive-bayes  smoothing  laplace-smoothing  distributions  data-visualization  regression  probit  penalized  estimation  unbiased-estimator  fisher-information  unbalanced-classes  bayesian  model-selection  aic  multiple-regression  cross-validation  regression-coefficients  nonlinear-regression  standardization  naive-bayes  trend  machine-learning  clustering  unsupervised-learning  wilcoxon-mann-whitney  z-score  econometrics  generalized-moments  method-of-moments  machine-learning  conv-neural-network  image-processing  ocr  machine-learning  neural-networks  conv-neural-network  tensorflow  r  logistic  scoring-rules  probability  self-study  pdf  cdf  classification  svm  resampling  forecasting  rms  volatility-forecasting  diebold-mariano  neural-networks  prediction-interval  uncertainty 

Questão: Um mal - entendido comum dos valores-p é que eles representam a probabilidade da hipótese nula ser verdadeira. Sei que isso não está correto e sei que os valores p representam apenas a probabilidade de encontrar uma amostra tão extrema quanto essa, uma vez que a hipótese nula é …

9 hypothesis-testing  bayesian  p-value  frequentist 

Estou lendo esta pré-impressão do artigo e estou tendo dificuldades em seguir a derivação das equações para a regressão de processo gaussiana. Eles usam a configuração e notação de Rasmussen & Williams . Assim, o ruído aditivo, com média zero, estacionário e normalmente distribuído com variação é assumido:σ2noiseσnoise2\sigma^2_{noise} y=f(x)+ϵ,ϵ∼N(0,σ2noise)y=f(x)+ϵ,ϵ∼N(0,σnoise2)y=f(\mathbf{x})+\epsilon, \quad …

9 regression  bayesian  gaussian-process 

Os estatísticos bayesianos sustentam que "a estatística bayesiana pode estimar parâmetros que são muito difíceis de estimar através de métodos freqüentes". A seguinte citação retirada desta documentação do SAS diz a mesma coisa? Ele fornece inferências que dependem dos dados e são exatas, sem depender de aproximação assintótica. A inferência …

9 bayesian  inference  sas  frequentist 

Estou tentando implementar o modelo de Mistura Gaussiana com inferência variacional estocástica, seguindo este artigo . Este é o pgm da mistura gaussiana. De acordo com o artigo, o algoritmo completo de inferência variacional estocástica é: E ainda estou muito confuso sobre o método para escalá-lo para GMM. Primeiro, pensei …

9 machine-learning  bayesian  clustering  gaussian-mixture  variational-bayes 

Estou lendo o documento on-line de detecção de ponto de mudança bayesiano de Adams e MacKay ( link ). Os autores começam escrevendo a distribuição preditiva marginal: em queP(xt+1|x1:t)=∑rtP(xt+1|rt,x(r)t)P(rt|x1:t)(1)P(xt+1|x1:t)=∑rtP(xt+1|rt,xt(r))P(rt|x1:t)(1) P(x_{t+1} | \textbf{x}_{1:t}) = \sum_{r_t} P(x_{t+1} | r_t, \textbf{x}_t^{(r)}) P(r_t | \textbf{x}_{1:t}) \qquad \qquad (1) xtxtx_t é a observação no tempo …

9 time-series  bayesian  inference  change-point 

Fechado . Esta pergunta precisa de detalhes ou clareza . No momento, não está aceitando respostas. Deseja melhorar esta pergunta? Adicione detalhes e esclareça o problema editando esta postagem . Fechado há 3 anos . Pelo que li e pelas respostas a outras perguntas que fiz aqui, muitos dos chamados …

9 bayesian  frequentist  philosophical 

Atualmente, estou vendo um artigo do modelo de efeitos aleatórios do processo Dirichlet e a especificação do modelo é a seguinte: que é o parâmetro de escala e é a medida base. Posteriormente, sugere que integremos uma função sobre a medida base , como A medida base no processo Dirichlet …

9 bayesian  dirichlet-distribution  dirichlet-process  nonparametric-bayes  measure-theory 

Considere a perda quadrática , com o dado previamente que . Seja a probabilidade. Encontre o estimador de Bayes .L(θ,δ)=(θ−δ)2L(θ,δ)=(θ−δ)2L(\theta,\delta)=(\theta-\delta)^2π(θ)π(θ)\pi(\theta)π(θ)∼U(0,1/2)π(θ)∼U(0,1/2)\pi(\theta)\sim U(0,1/2)f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0δπδπ\delta^\pi Considere a perda quadrática ponderada que com anterior . Seja seja a probabilidade. Encontre o estimador de Bayes .Lw(θ,δ)=w(θ)(θ−δ)2Lw(θ,δ)=w(θ)(θ−δ)2L_w(\theta,\delta)=w(\theta)(\theta-\delta)^2w(θ)=I(−∞,1/2)w(θ)=I(−∞,1/2)w(\theta)=\mathbb{I}_{(-\infty,1/2)}π1(θ)=I[0,1](θ)π1(θ)=I[0,1](θ)\pi_1(\theta)=\mathbb{I}_{[0,1]}(\theta)f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0δπ1δ1π\delta^\pi_1 Compare eδπδπ\delta^\piδπ1δ1π\delta^\pi_1 Primeiro, notei que , …

9 self-study  bayesian  estimation  hierarchical-bayesian  loss-functions