Perguntas com a marcação «dirichlet-distribution»

Estou começando a se envolver com o uso de glmnetcom LASSO Regressão onde meu desfecho de interesse é dicotômica. Criei um pequeno quadro de dados simulado abaixo: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p …

78 r  self-study  lasso  regression  interpretation  anova  statistical-significance  survey  conditional-probability  independence  naive-bayes  graphical-model  r  time-series  forecasting  arima  r  forecasting  exponential-smoothing  bootstrap  outliers  r  regression  poisson-distribution  zero-inflation  genetic-algorithms  machine-learning  feature-selection  cart  categorical-data  interpretation  descriptive-statistics  variance  multivariate-analysis  covariance-matrix  r  data-visualization  generalized-linear-model  binomial  proportion  pca  matlab  svd  time-series  correlation  spss  arima  chi-squared  curve-fitting  text-mining  zipf  probability  categorical-data  distance  group-differences  bhattacharyya  regression  variance  mean  data-visualization  variance  clustering  r  standard-error  association-measure  somers-d  normal-distribution  integral  numerical-integration  bayesian  clustering  python  pymc  nonparametric-bayes  machine-learning  svm  kernel-trick  hyperparameter  poisson-distribution  mean  continuous-data  univariate  missing-data  dag  python  likelihood  dirichlet-distribution  r  anova  hypothesis-testing  statistical-significance  p-value  rating  data-imputation  censoring  threshold 

No algoritmo de modelo de tópico do LDA, vi essa suposição. Mas não sei por que escolheu a distribuição Dirichlet? Não sei se podemos usar a distribuição Uniform sobre Multinomial como um par?

36 bayesian  dirichlet-distribution  conjugate-prior 

Sou bastante novo nas estatísticas bayesianas e me deparei com uma medida de correlação corrigida, SparCC , que usa o processo Dirichlet no backend de seu algoritmo. Eu tenho tentado percorrer o algoritmo passo a passo para realmente entender o que está acontecendo, mas não sei exatamente o que o …

26 distributions  bayesian  dirichlet-distribution 

Digamos que tenhamos uma distribuição de Dirichlet com o parâmetro do vetor dimensional . Como posso desenhar uma amostra (um vetor dimensional ) dessa distribuição? Eu preciso de uma (possivelmente) explicação simples.KKKα⃗ =[α1,α2,...,αK]α→=[α1,α2,...,αK]\vec\alpha = [\alpha_1, \alpha_2,...,\alpha_K]KKK

25 sampling  dirichlet-distribution 

Portanto, essa pergunta é um pouco confusa, mas incluirei gráficos coloridos para compensar isso! Primeiro os antecedentes e depois as perguntas. fundo Digamos que você tenha uma distribuição multinomial dimensional com probailites iguais nas categorias. Seja as contagens normalizadas ( ) dessa distribuição, ou seja:nnnnnnπ=(π1,…,πn)π=(π1,…,πn)\pi = (\pi_1, \ldots, \pi_n)ccc (c1,…,cn)∼Multinomial(1/n,…,1/n)πi=cin(c1,…,cn)∼Multinomial(1/n,…,1/n)πi=cin(c_1, …

24 distributions  bayesian  bootstrap  multinomial  dirichlet-distribution 

Que um pedaço de comprimento 1 seja quebrado em fragmentos uniformemente aleatoriamente. Qual é a distribuição do comprimento do fragmento mais longo?k+1k+1k+1 Mais formalmente, sejam IID e sejam as estatísticas de pedidos associadas, ou seja , simplesmente solicitamos a amostra de maneira que . Deixe .(U1,…Uk)(U1,…Uk)(U_1, \ldots U_k)U(0,1)U(0,1)U(0,1)(U(1),…,U(k))(U(1),…,U(k))(U_{(1)}, \ldots, U_{(k)})U(1)≤U(2)≤,…,≤U(k)U(1)≤U(2)≤,…,≤U(k)U_{(1)} …

21 distributions  uniform  order-statistics  dirichlet-distribution  maximum 

Ao usar a modelagem de tópicos (Alocação de Dirichlet Latente), o número de tópicos é um parâmetro de entrada que o usuário precisa especificar. Parece-me que também devemos fornecer uma coleção de tópicos de candidatos que o processo Dirichlet tem de provar? Meu entendimento está correto? Na prática, como configurar …

17 machine-learning  bayesian  clustering  text-mining  dirichlet-distribution 

Seja X1,…,Xk+1X1,…,Xk+1X_1,\dots,X_{k+1} variáveis ​​aleatórias mutuamente independentes, cada uma com uma distribuição gama com os parâmetros αi,i=1,2,…,k+1αi,i=1,2,…,k+1\alpha_i,i=1,2,\dots,k+1 mostre que Yi=XiX1+⋯+Xk+1,i=1,…,kYi=XiX1+⋯+Xk+1,i=1,…,kY_i=\frac{X_i}{X_1+\cdots+X_{k+1}},i=1,\dots,k, tem uma distribuição conjunta comoDirichlet(α1,α2,…,αk;αk+1)Dirichlet(α1,α2,…,αk;αk+1)\text{Dirichlet}(\alpha_1,\alpha_2,\dots,\alpha_k;\alpha_{k+1}) PDF conjunto de (X1,…,Xk+1)=e−∑k+1i=1xixα1−11…xαk+1−1k+1Γ(α1)Γ(α2)…Γ(αk+1)(X1,…,Xk+1)=e−∑i=1k+1xix1α1−1…xk+1αk+1−1Γ(α1)Γ(α2)…Γ(αk+1)(X_1,\dots,X_{k+1})=\frac{e^{-\sum_{i=1}^{k+1}x_i}x_1^{\alpha_1-1}\dots x_{k+1}^{\alpha_{k+1}-1}}{\Gamma(\alpha_1)\Gamma(\alpha_2)\dots \Gamma(\alpha_{k+1})} Então, para encontrar pdf conjunto de(Y1,…,Yk+1)(Y1,…,Yk+1)(Y_1,\dots,Y_{k+1})não consigo encontrar jacobiano, ou seja,J(x1,…,xk+1y1,…,yk+1)J(x1,…,xk+1y1,…,yk+1)J(\frac{x_1,\dots,x_{k+1}}{y_1,\dots,y_{k+1}})

17 self-study  multivariate-analysis  gamma-distribution  dirichlet-distribution 

Assim, na modelagem de texto (não supervisionada), a Alocação de Dirichlet Latente (LDA) é uma versão bayesiana da Análise Semântica Latente Probabilística (PLSA). Essencialmente, LDA = PLSA + Dirichlet anteriormente sobre seus parâmetros. Meu entendimento é que o LDA agora é o algoritmo de referência e é implementado em vários …

15 bayesian  multinomial  prior  naive-bayes  dirichlet-distribution 

É fácil produzir uma variável aleatória com distribuição Dirichlet usando variáveis ​​Gamma com o mesmo parâmetro de escala. E se: Xi∼Gamma(αi,β)Xi∼Gamma(αi,β) X_i \sim \text{Gamma}(\alpha_i, \beta) Então: (X1∑jXj,…,Xn∑jXj)∼Dirichlet(α1,…,αn)(X1∑jXj,…,Xn∑jXj)∼Dirichlet(α1,…,αn) \left(\frac{X_1}{\sum_j X_j},\; \ldots\; , \frac{X_n}{\sum_j X_j}\right) \sim \text{Dirichlet}(\alpha_1,\;\ldots\;,\alpha_n) Problema O que acontece se os parâmetros da escala não forem iguais? XEu∼ Gama ( …

14 expected-value  dirichlet-distribution  gamma-distribution  integral 

No artigo da wikipedia sobre suavização de Laplace (ou suavização aditiva), diz-se que, do ponto de vista bayesiano, isso corresponde ao valor esperado da distribuição posterior, usando uma distribuição simétrica de Dirichlet com o parâmetro como anterior.αα\alpha Estou confuso sobre como isso é realmente verdade. Alguém poderia me ajudar a …

11 bayesian  smoothing  dirichlet-distribution  laplace-smoothing 

Eu tenho uma pergunta sobre a distribuição posterior de Dirichlet. Dada uma função de verossimilhança multinomial sabe-se que o posterior é , onde é o número de vezes que vimos observação.Dir(αi+Ni)Dir(αi+Ni)Dir({\alpha_i + N_i})NiNiN_iithithi^{th} O que acontece se começarmos a diminuir s para um dado dado fixo ? Parece da forma …

11 dirichlet-distribution 

Vou tentar descrever o problema em questão o mais geral possível. Estou modelando observações como uma distribuição categórica com um vetor de probabilidade de parâmetro teta. Então, assumo que o vetor de parâmetro theta segue uma distribuição anterior do Dirichlet com os parâmetros .α1 1, α2, … , Αkα1,α2,…,αk\alpha_1,\alpha_2,\ldots,\alpha_k É …

10 categorical-data  multinomial  dirichlet-distribution  hierarchical-bayesian  dirichlet-process 

Nos artigos AlphaGo Zero e AlphaZero do DeepMind , eles descrevem a adição de ruído Dirichlet às probabilidades anteriores de ações do nó raiz (estado da placa) na Monte Carlo Tree Search: Exploração adicional é obtida adicionando ruído Dirichlet às probabilidades anteriores no nó raiz , especificamente , em que …

10 machine-learning  neural-networks  dirichlet-distribution 

Atualmente, estou vendo um artigo do modelo de efeitos aleatórios do processo Dirichlet e a especificação do modelo é a seguinte: que é o parâmetro de escala e é a medida base. Posteriormente, sugere que integremos uma função sobre a medida base , como A medida base no processo Dirichlet …

9 bayesian  dirichlet-distribution  dirichlet-process  nonparametric-bayes  measure-theory