Perguntas com a marcação «bayesian»

(Sou novato em estatísticas. Sou matemático e programador e estou tentando criar algo como um ingênuo filtro bayesiano de spam.) Eu notei em muitos lugares que as pessoas tendem a quebrar o denominador na equação do Teorema de Bayes. Então, em vez disso: P( A | B ) ⋅ P( …

23 bayesian 

Eu tenho tentado entender a idéia de anteriores conjugados nas estatísticas bayesianas por um tempo, mas simplesmente não entendo. Alguém pode explicar a idéia nos termos mais simples possíveis, talvez usando o "prior gaussiano" como exemplo?

23 bayesian  conditional-probability  conjugate-prior 

Andrew Gelman escreveu um extenso artigo sobre o motivo pelo qual o teste Bayesiano AB não exige correção de múltiplas hipóteses: Por que geralmente não precisamos nos preocupar com comparações múltiplas , 2012. Não entendo bem: por que os métodos bayesianos não exigem várias correções de teste? A ~ Distribution1 …

22 hypothesis-testing  bayesian  multiple-comparisons 

Eu estava examinando a literatura sobre regularização e frequentemente vejo parágrafos que vinculam a regulatização de L2 ao prior gaussiano e L1 com Laplace centrado em zero. Sei como esses anteriores são, mas não entendo como isso se traduz, por exemplo, em pesos no modelo linear. Em L1, se eu …

22 regression  bayesian  prior  regularization  laplace-distribution 

Estou interessado para estimar a densidade de uma variável aleatória contínua . Uma maneira de fazer isso que aprendi é o uso da Estimativa de Densidade do Kernel.XXX Mas agora estou interessado em uma abordagem bayesiana que se segue nas seguintes linhas. Inicialmente, eu acredito que segue uma distribuição F …

22 bayesian  pdf  nonparametric-bayes  dirichlet-process 

Atualmente, estou estudando "Raciocínio Bayesiano e Aprendizado de Máquina", de David Barber, e é um livro extremamente bem escrito e envolvente para aprender os fundamentos. Então, uma pergunta para alguém que já fez isso. Quais são os próximos livros que devo ler depois de ter proficiência razoável na maioria dos …

22 machine-learning  bayesian  references  graphical-model 

Ao tentar selecionar entre vários modelos ou o número de recursos a serem incluídos, digamos previsão, posso pensar em duas abordagens. Divida os dados em conjuntos de treinamento e teste. Melhor ainda, use bootstrapping ou validação cruzada k-fold. Treine sempre no conjunto de treinamento e calcule o erro sobre o …

22 bayesian  model-selection  cross-validation  feature-selection 

Quais são as diferenças entre os modelos generativo e discriminativo (discriminante) (no contexto da aprendizagem e inferência bayesiana)? e o que diz respeito à previsão, teoria da decisão ou aprendizado não supervisionado?

22 bayesian  predictive-models  unsupervised-learning 

Sabemos que, no caso de uma distribuição prévia adequada, P(θ∣X)=P(X∣θ)P(θ)P(X)P(θ∣X)=P(X∣θ)P(θ)P(X)P(\theta \mid X) = \dfrac{P(X \mid \theta)P(\theta)}{P(X)} ∝P(X∣θ)P(θ)∝P(X∣θ)P(θ) \propto P(X \mid \theta)P(\theta) . A justificativa usual para esta etapa é que a distribuição marginal de , é constante em relação a e, portanto, pode ser ignorada ao derivar a distribuição posterior.XXXP(X)P(X)P(X)θθ\theta …

22 distributions  bayesian  prior  posterior 

Eu tenho tentado desenvolver um entendimento baseado na intuição do teorema de Bayes em termos de probabilidade anterior , posterior , probabilidade e marginal . Para isso, uso a seguinte equação: onde A representa uma hipótese ou crença e B representa dados ou evidências. Eu entendi o conceito de posterior …

22 bayesian  likelihood  intuition 

Algumas fontes dizem que a função de probabilidade não é uma probabilidade condicional, outras dizem que é. Isso é muito confuso para mim. De acordo com a maioria das fontes que eu vi, a probabilidade de uma distribuição com o parâmetro deve ser um produto de funções de massa de …

21 probability  bayesian  conditional-probability  likelihood  frequentist 

Estou com problemas para entender o que é um processo bayesiano de inicialização e como isso seria diferente da inicialização normal. E se alguém pudesse oferecer uma revisão intuitiva / conceitual e uma comparação de ambos, isso seria ótimo. Vamos dar um exemplo. Digamos que temos um conjunto de dados …

21 bayesian  sampling  bootstrap 

Preâmbulo Este é um longo post. Se você estiver relendo isso, observe que revi a parte da pergunta, embora o material de segundo plano permaneça o mesmo. Além disso, acredito que desenvolvi uma solução para o problema. Essa solução aparece na parte inferior da postagem. Agradeço ao CliffAB por apontar …

21 machine-learning  bayesian  sampling  roc  auc 

Eu sei que os priores não precisam ser adequados e que a função de probabilidade também não se integra a 1. Mas o posterior precisa ser uma distribuição adequada? Quais são as implicações se é / não é?

21 distributions  bayesian  posterior 

Se o anterior e a probabilidade são muito diferentes um do outro, às vezes ocorre uma situação em que o posterior é semelhante a nenhum deles. Veja, por exemplo, esta imagem, que usa distribuições normais. Embora isso seja matematicamente correto, não parece estar de acordo com minha intuição - se …

21 bayesian  prior  posterior  likelihood