Estatísticas e Big Data

Quais são as alternativas de última geração aos Processos Gaussianos (GP) para regressão não-linear não paramétrica com incerteza de previsão, quando o tamanho do conjunto de treinamento começa a se tornar proibitivo para os GPs de baunilha, mas ainda não é muito grande? Os detalhes do meu problema são: o …

7 regression  machine-learning  bayesian  nonparametric  gaussian-process 

Estou enfrentando algumas dúvidas ao entender como os graus de liberdade são considerados nas distribuições. Em particular, vamos nos referir à variável Student, ou seja,ttt t =x -x¯s^=x -x¯∑ (xEu-x¯)2N- 1-------√(1)(1)t=x−x¯s^=x−x¯∑(xi−x¯)2N−1t=\frac{x-\bar{x}}{\hat{s}}=\frac{x-\bar{x}}{\sqrt{\frac{\sum(x_i-\bar{x})^2}{N-1}}}\tag{1} Onde é uma variável gaussiana, é o valor médio, é o desvio padrão obtido dos dados.xxxx¯x¯\bar{x}s^=∑ (xEu-x¯)2N- 1-------√s^=∑(xi−x¯)2N−1\hat{s}=\sqrt{\frac{\sum(x_i-\bar{x})^2}{N-1}} A …

7 distributions  degrees-of-freedom  t-distribution  constraint 

Dada uma proporção e seu erro padrão, que premissa distributiva minimiza suposições / maximiza entropia? É o beta (e posso usar o método dos momentos para estimar seus parâmetros)? Ou alguma outra coisa?

7 distributions  proportion  entropy  beta-distribution  maximum-entropy 

Atualmente, estou trabalhando no treinamento de uma rede neural de 5 camadas e tive alguns problemas com a camada tanh e gostaria de experimentar a camada ReLU. Mas descobri que isso se torna ainda pior para a camada ReLU. Gostaria de saber se é por isso que não encontrei os …

7 neural-networks 

Algum tempo atrás, Xian perguntou Qual é o equivalente para cdfs do MCMC para pdfs? A resposta ingênua seria usar o algoritmo Metropolis "aproximado" na forma Dado X(t)=x(t)X(t)=x(t)X^{(t)} = x^{(t)} 1. gerar Y∼q(y|x(t))Y∼q(y|x(t))Y \sim q(y|x^{(t)}) 2. pegue X(t+1)={Yx(t) with probability otherwise.min(F(Y+ε)−F(Y−ε)F(x(t)+ε)−F(x(t)−ε),1)X(t+1)={Y with probability min(F(Y+ε)−F(Y−ε)F(x(t)+ε)−F(x(t)−ε),1)x(t) otherwise. X^{(t+1)} = \begin{cases} Y & …

7 simulation  mcmc  cdf  metropolis-hastings 

Aproximações de partículas para densidades de probabilidade são frequentemente introduzidas como uma soma ponderada das funções Dirac p(x)≈∑i=1Nωiδ(x−xi)p(x)≈∑i=1Nωiδ(x−xi)p(x) \approx \sum_{i=1}^N \omega^i \delta(x-x^i) com os pesos ωi∝p(xi)q(xi)ωi∝p(xi)q(xi)\omega^i \propto \frac{p(x^i)}{q(x^i)} normalizado de modo que eles somam à unidade; onde é a densidade de importância. Eu entendo que a função Dirac se torna …

7 distributions  particle-filter  dirac-delta 

Eu estava assistindo esse vídeo de Khan no Expected Value como uma atualização. Ele menciona de passagem que o valor esperado é o resultado mais provável ... Bem, isso é verdade porque ele está usando uma distribuição binomial como exemplo, certo?

7 expected-value  mode 

Estou tentando ajustar um SVM aos meus dados. Meu conjunto de dados contém 3 classes e estou executando uma validação cruzada de 10 vezes (no LibSVM): ./svm-train -g 0.5 -c 10 -e 0.1 -v 10 training_data A ajuda afirma assim: -c cost : set the parameter C of C-SVC, epsilon-SVR, …

7 cross-validation  svm  libsvm  parameterization  optimization 

Especificamente, a implementação R do t-SNE no pacote Rtsne possui um argumento "check_duplicates" e a documentação sugere que "é melhor garantir que não haja duplicatas presentes e defina essa opção como FALSE, especialmente para grandes conjuntos de dados". Além disso, se você tentar executar o t-SNE em um conjunto de …

7 tsne 

Estou tentando entender o χ2χ2\chi^2-distribuição. A Wikipedia possui o seguinte gráfico para a função de densidade de probabilidade: Este gráfico mostra que, para k = 1k=1 k = 1, o PDF será ... infinito? O modo doχ2χ2\chi^2-distribuição é definida como m a x { k - 2 , 0 }max{k−2,0}max …

7 mathematical-statistics  chi-squared 

Estou executando um modelo de oliv multivariado em que minha variável dependente é a Pontuação de consumo de alimentos , um índice criado pela soma ponderada das ocorrências de consumo de algumas categorias de alimentos. Embora eu tenha tentado especificações diferentes do modelo, escalado e / ou transformado os preditores …

7 mixed-model  heteroscedasticity  normality-assumption  multivariate-regression  quantile-regression 

Eu li este parágrafo em James et al., Introdução à Aprendizagem Estatística , p183-184 [1]: Como a média de muitas quantidades altamente correlacionadas tem uma variação maior do que a média de muitas quantidades que não são tão altamente correlacionadas, a estimativa de erro de teste resultante do LOOCV tende …

7 correlation  variance 

Essa é uma questão teórica. Também sou novo na análise de séries temporais e estou tentando aprender rápido. Desculpe se parte da minha terminologia está desativada. Você pode categorizar livremente métodos para analisar e modelar séries temporais em abordagens no domínio do tempo e no domínio da frequência. No domínio …

7 time-series  arima  spectral-analysis 

Estou com um problema no trabalho. Alguém por favor pode me ajudar a fornecer a distribuição conjunta dennn Variáveis ​​aleatórias de Bernoulli, mas sob a restrição de que a soma dessas nnn variáveis ​​aleatórias devem ser 1 111. Alguém pode me mostrar como derivar essa distribuição?

7 distributions  joint-distribution  bernoulli-distribution  constraint 

O parâmetro alfa de uma média móvel exponencial define a suavização que a média aplica a uma série temporal. De maneira semelhante, o tamanho da janela de uma janela em movimento também define a suavização. Existe alguma maneira de ajustar o parâmetro alfa, de modo que a suavização seja aproximadamente …

7 exponential-smoothing  moving-average  calibration  moving-window