Estatísticas e Big Data

Sabemos que se p∼Beta(α,β)p∼Beta(α,β)p \sim Beta(\alpha, \beta) , então E[lnp]=ψ(α)−ψ(α+β)E[ln⁡p]=ψ(α)−ψ(α+β) \mathbb{E}[\ln p] = \psi(\alpha) - \psi(\alpha + \beta) onde ψ(.)ψ(.)\psi(.) É a função Digamma. Existe uma forma fácil para E[ln(1−p)]E[ln⁡(1−p)] \mathbb{E}[\ln (1-p)] ?

9 probability  distributions  beta-distribution 

Estou estudando 'Introdução à aprendizagem estatística' de James, Witten, Hastie, Tibshirani. Na página 139 do livro, eles começaram introduzindo o Teorema de Bayes . não é constante matemática, mas denota a probabilidade anterior. Nada é estranho nesta equação. πpk( X) = P( Y= k |X= x ) = πkfk( X …

9 self-study  classification 

Estou aprendendo sobre regressão. Eu fiz algumas regressões transversais que são boas. Recentemente, fiz uma regressão simples de séries temporais. Então, eu tenho todos os vetores xy, contendo 1000 observações. Eu fiz uma simples regressão de ols no excel que achei que estava bem. No entanto, meu tutor on-line me …

9 regression  time-series  descriptive-statistics 

\def\l{|\!|} Dada a regressão líquida elástica minb12||y−Xb||2+αλ||b||22+(1−α)λ||b||1minb12||y−Xb||2+αλ||b||22+(1−α)λ||b||1\min_b \frac{1}{2}\l y - Xb \l^2 + \alpha\lambda \l b\l_2^2 + (1 - \alpha) \lambda \l b\l_1 como um intervalo apropriado de λλ\lambda ser escolhido para validação cruzada? No caso α=1α=1\alpha=1 (regressão de crista), a fórmula dof=∑js2js2j+λdof=∑jsj2sj2+λ\textrm{dof} = \sum_j \frac{s_j^2}{s_j^2+\lambda} pode ser usado para …

9 least-squares  lasso  regularization  ridge-regression  elastic-net 

Meu professor provou que a segunda derivada da entropia cruzada é sempre positiva, de modo que a função de custo das redes neurais que usam entropia cruzada é convexa. Isso é verdade? Estou bastante confuso sobre isso, porque sempre aprendi que a função de custo da RNA é não convexa. …

9 neural-networks  convex 

Suponha que, em uma análise de regressão em R, eu tenha uma variável independente do tipo de fator com 3 níveis no meu conjunto de dados de trem. Mas no conjunto de dados de teste essa mesma variável de fator tem 5 níveis. Portanto, não posso prever os valores de …

9 r  regression  categorical-data  cross-validation  rare-events 

Estou fazendo um projeto que envolve a substituição de valores ausentes em um conjunto de dados (pela primeira vez). Isso envolve o uso de dois métodos replacement by meane replacement by medianpara preencher os valores ausentes. Não há muita diferença entre os resultados dos desvios mínimo, mediano, máximo, médio e …

9 mean  median  data-imputation 

Quero simular uma amostra de uma distribuição normal de mistura, de modo que p × N( μ1, σ21) + ( 1 - p ) × N( μ2, σ22)p×N(μ1,σ12)+(1−p)×N(μ2,σ22)p\times\mathcal{N}(\mu_1,\sigma_1^2) + (1-p)\times\mathcal{N}(\mu_2,\sigma_2^2) é restrito ao intervalo vez de . Isso significa que eu quero simular uma mistura truncada de distribuições normais.R[ 0 …

9 simulation  random-generation  cdf  mixture  gaussian-mixture 

Eu sei que a variação da diferença de duas variáveis ​​independentes é a soma das variações, e eu posso provar isso. Eu quero saber onde a covariância vai no outro caso.

9 variance  covariance  independence  non-independent 

Estou simulando ensaios de Bernoulli com um aleatório entre grupos e, em seguida, encaixo o modelo correspondente em o pacote:logitθ∼N(logitθ0,12)logitθ∼N(logitθ0,12)\text{logit}\, \theta \sim {\cal N}(\text{logit}\, \theta_0, 1^2)lme4 library(lme4) library(data.table) I <- 30 # number of groups J <- 10 # number of Bernoulli trials within each group logit <- function(p) log(p)-log(1-p) …

9 mixed-model  generalized-linear-model  binomial  random-effects-model  lme4-nlme 

Eu tenho uma variável dependente que pode variar de 0 a infinito, com 0s sendo realmente observações corretas. Entendo que os modelos de censura e Tobit só se aplicam quando o valor real de é parcialmente desconhecido ou ausente, caso em que os dados são considerados truncados. Mais algumas informações …

9 regression  censoring  truncation  tobit-regression 

Meus dados brutos consistem em uma série temporal de 60 dias com uma tendência de queda. Os dados são semanais, portanto a frequência é definida como 7. Eu calculei a diferença dos dados que se parece com isso Quando executo gráficos de ACF e PACF sobre a diferença, pareço obter …

9 r  time-series  autocorrelation 

Quero treinar uma rede neural com uma sequência de caracteres como um vetor de entrada. Os exemplos de aprendizado têm duração diferente e, por esse motivo, não sei como representá-los. Digamos que eu tenha dois exemplos de sequências, aqui os nomes: john doe maurice delanoe O primeiro exemplo é de …

9 machine-learning  neural-networks  feature-selection  natural-language 

Alguém conhece o exemplo de um algoritmo proposto por Williams no artigo "Uma classe de algoritmos de estimativa de gradiente para aprendizado por reforço em redes neurais" http://incompleteideas.net/sutton/williams-92.pdf

9 reinforcement-learning 

Ao estimar parâmetros com MAP, por que está escrito que estamos estimando o "modo"? Eu pensei que seria o meio da distribuição posterior?

9 bayesian  posterior  bayes