Estatísticas e Big Data

A função softmax, comumente usada em redes neurais para converter números reais em probabilidades, é a mesma função da distribuição de Boltzmann, a distribuição de probabilidade sobre energias para um conjunto de partículas em equilíbrio térmico a uma dada temperatura T na termodinâmica. Eu posso ver algumas razões heurísticas claras …

12 machine-learning  neural-networks  softmax 

Pergunto-me o que é um valor intrínseco do uso da média harmônica (por exemplo, para calcular medidas F), em oposição à média aritmética ponderada na combinação de precisão e recall? Estou pensando que a média aritmética ponderada poderia desempenhar o papel de média harmônica, ou estou perdendo alguma coisa?

12 machine-learning  monte-carlo  precision-recall  harmonic-mean 

Estive assistindo as palestras CS231N de Stanford e estou tentando entender alguns problemas nas arquiteturas da CNN. O que estou tentando entender é se existem algumas diretrizes gerais para escolher o tamanho do filtro de convolução e coisas como avanços ou isso é mais uma arte do que uma ciência? …

12 neural-networks  deep-learning  conv-neural-network 

Eu entendo que, dado um conjunto de observações independentes o Estimador de Máxima Verossimilhança (ou, equivalentemente, o MAP com flat / uniform anterior) que identifica os parâmetros \ mathbf {θ} que produzem a distribuição do modelo p_ {model} \ esquerda (\, \ cdot \,; \ mathbf {θ} \ right) que …

12 maximum-likelihood  deep-learning  cross-entropy 

Faz mais de 2 anos que trabalho em diferentes séries temporais. Li em muitos artigos que o ACF é usado para identificar a ordem do termo MA e o PACF para AR. Existe uma regra geral de que, para a MA, o atraso em que o ACF é desligado repentinamente …

12 time-series  arima  autoregressive  moving-average 

Em que situações devemos usar o t-SNE (além da visualização de dados)? O T-SNE é usado para redução de dimensionalidade. A resposta a esta pergunta sugere que o t-SNE deve ser usado apenas para visualização e que não devemos usá-lo para agrupamento. Então, qual é o bom uso do t-SNE?

12 data-visualization  dimensionality-reduction  tsne 

Depois de um ano na pós-graduação, meu entendimento de "mínimos quadrados ponderados" é o seguinte: seja , seja algumas \ n p vezes matriz de design \ boldsymbol \ beta \ in \ mathbb {R} ^ p seja um vetor de parâmetro, \ boldsymbol \ epsilon \ in \ mathbb …

12 r  linear-model  weighted-regression 

No reconhecimento de padrões e no aprendizado de máquina de Bishop, li o seguinte, logo após a densidade de probabilidade :p(x∈(a,b))=∫bap(x)dxp(x∈(a,b))=∫abp(x)dxp(x\in(a,b))=\int_a^bp(x)\textrm{d}x Sob uma mudança não linear da variável, uma densidade de probabilidade se transforma de forma diferente de uma função simples, devido ao fator jacobiano. Por exemplo, se considerarmos uma …

12 machine-learning  probability 

Percebi que, ao criar modelos aleatórios de regressão florestal, pelo menos em R, o valor previsto nunca excede o valor máximo da variável de destino vista nos dados de treinamento. Como um exemplo, veja o código abaixo. Estou construindo um modelo de regressão para prever com mpgbase nos mtcarsdados. Eu …

12 r  random-forest 

Vou usar o teste de Kolmogorov-Smirnov para testar a normalidade de MYDATA em R. Este é um exemplo do que faço ks.test(MYDATA,"pnorm",mean(MYDATA),sd(MYDATA)) Aqui está o resultado que R me fornece: data: MYDATA D = 0.13527, p-value = 0.1721 alternative hypothesis: two-sided Warning message: In ks.test(MYDATA, "pnorm", mean(MYDATA), sd(MYDATA)) : ties …

12 kolmogorov-smirnov  ties 

Estou lendo o artigo Propagação de erros pelo método de Monte Carlo em cálculos geoquímicos, Anderson (1976) e há algo que não entendo direito. Considere alguns dados medidos e um programa que os processe e retorne um determinado valor. No artigo, este programa é usado para obter primeiro o melhor …

12 bootstrap  monte-carlo  error 

LASSO e LASSO adaptável são duas coisas diferentes, certo? (Para mim, as penalidades parecem diferentes, mas estou apenas verificando se sinto falta de alguma coisa.) Quando você geralmente fala sobre redes elásticas, o caso especial é LASSO ou LASSO adaptável? Qual é o pacote glmnet, desde que você escolha alpha …

12 lasso  glmnet  elastic-net  oracle 

Muitas vezes, vejo autores estimarem um modelo de "diferença de log", por exemplo log(yt)−log(yt−1)=log(yt/yt−1)=α+βxtlog⁡(yt)−log⁡(yt−1)=log⁡(yt/yt−1)=α+βxt\log (y_t)-\log(y_{t-1}) = \log(y_t/y_{t-1}) = \alpha + \beta x_t Concordo que é apropriado relacionar a uma alteração percentual em y t enquanto log ( y t ) é I ( 1 ) .xtxtx_tytyty_tlog(yt)log⁡(yt)\log (y_t)I(1)I(1)I(1) Mas a diferença …

12 time-series  forecasting  data-transformation  econometrics  logarithm 

Eu quero provar de uma densidade univariada mas eu só sei o relacionamento:fXfXf_X fX( x ) = ∫fX| Y( x | y) fY( y) dy.fX(x)=∫fX|Y(x|y)fY(y)dy.f_X(x) = \int f_{X\vert Y}(x\vert y)f_Y(y) dy. Eu quero evitar o uso do MCMC (diretamente na representação integral) e, como e são fáceis de amostrar, eu …

12 sampling  conditional-probability  monte-carlo  marginal 

Existem várias estatísticas de resumo. Quando você deseja descrever a dispersão de uma distribuição, pode usar, por exemplo, o desvio padrão ou o coeficiente de Gini . Eu sei que o desvio padrão é baseado na tendência central, ou seja, desvio da média, e o coeficiente de Gini é uma …

12 standard-deviation  descriptive-statistics  gini