Estatísticas e Big Data

Atualmente, estou lendo "All of Statistics", de Larry Wasserman, e intrigado com algo que ele escreveu no capítulo sobre estimativa de funções estatísticas de modelos não paramétricos. Ele escreveu "Às vezes, podemos encontrar o erro padrão estimado de uma função estatística fazendo alguns cálculos. No entanto, em outros casos, não …

16 self-study  estimation  bootstrap  standard-error 

Suponha que eu tenho uma função g(x)g(x)g(x) que desejo integrar ∫∞−∞g(x)dx.∫−∞∞g(x)dx. \int_{-\infty}^\infty g(x) dx. Obviamente, assumindo que g(x)g(x)g(x) chega a zero nos pontos finais, sem explosões, boa função. Uma maneira com a qual estou brincando é usar o algoritmo Metropolis-Hastings para gerar uma lista de amostras x1,x2,…,xnx1,x2,…,xnx_1, x_2, \dots, x_n …

16 simulation  monte-carlo  metropolis-hastings  numerical-integration 

Estou trabalhando em um alogoritmo em R para automatizar um cálculo de previsão mensal. Estou usando, entre outros, a função ets () do pacote de previsão para calcular a previsão. Está funcionando muito bem. Infelizmente, para algumas séries temporais específicas, o resultado que recebo é estranho. Por favor, encontre abaixo …

16 r  time-series  forecasting  exponential-smoothing 

Peço desculpas antecipadamente pelo fato de ainda estar me adiantando. Estou tentando entender os prós e os contras do uso de tanh (mapa -1 a 1) vs. sigmoide (mapa 0 a 1) para a minha função de ativação de neurônios. Da minha leitura, parecia uma coisa menor, com diferenças marginais. …

16 neural-networks 

Os componentes do PCA (na análise de componentes principais) são estatisticamente independentes se nossos dados são multivariados normalmente distribuídos? Se sim, como isso pode ser demonstrado / comprovado? Pergunto porque vi este post , onde a resposta principal diz: O PCA não faz uma suposição explícita de Gaussianity. Ele encontra …

16 pca  independence  svd 

Na regressão de mínimos quadrados parciais (PLSR) ou modelagem de equações estruturais de mínimos quadrados parciais (PLS-SEM), a que se refere o termo "parcial"?

16 multiple-regression  least-squares  terminology  sem  partial-least-squares 

Para a distribuição normal, existe um estimador imparcial do desvio padrão dado por: σ^unbiased=Γ(n−12)Γ(n2)12∑k=1n(xi−x¯)2−−−−−−−−−−−−√σ^unbiased=Γ(n−12)Γ(n2)12∑k=1n(xi−x¯)2\hat{\sigma}_\text{unbiased} = \frac{\Gamma(\frac{n-1}{2})}{\Gamma(\frac{n}{2})} \sqrt{\frac{1}{2}\sum_{k=1}^n(x_i-\bar{x})^2} A razão pela qual esse resultado não é tão conhecido parece ser que ele é em grande parte um objeto antigo e não uma questão de grande importância . A prova é abordada …

16 mathematical-statistics  standard-deviation  unbiased-estimator 

Ao aprender a rede neural convolucional, tenho perguntas sobre a figura a seguir. 1) C1 na camada 1 possui 6 mapas de características, isso significa que existem seis núcleos convolucionais? Cada kernel convolucional é usado para gerar um mapa de recursos com base na entrada. 2) S1 na camada 2 …

16 machine-learning  neural-networks  deep-learning  pattern-recognition  conv-neural-network 

A computação bayesiana aproximada é uma técnica muito interessante para ajustar basicamente qualquer modelo estocástico, destinado a modelos em que a probabilidade é intratável (por exemplo, você pode fazer uma amostra do modelo se fixar os parâmetros, mas não puder calcular numericamente, algoritmicamente ou analiticamente ). Ao introduzir a computação …

16 bayesian  simulation  model  likelihood  abc 

Recentemente, eu estava lendo um artigo que incorporava a aleatoriedade em seus intervalos de confiança e credibilidade, e me perguntava se isso é padrão (e, se sim, por que é uma coisa razoável a se fazer). Para definir a notação, assuma que nossos dados são e estamos interessados ​​em criar …

16 confidence-interval  credible-interval 

Estamos estudando o aprendizado de máquina via Machine Learning: uma perspectiva probabilística (Kevin Murphy). Embora o texto explique a fundamentação teórica de cada algoritmo, ele raramente diz em qual caso o algoritmo é melhor e, quando o faz, não diz como saber em qual caso estou. Por exemplo, para a …

16 machine-learning  eda 

A regressão de Ridge estima parâmetros ββ\boldsymbol \beta em um modelo linear y=Xβy=Xβ\mathbf y = \mathbf X \boldsymbol \beta por β^λ=(X⊤X+λI)−1X⊤y,β^λ=(X⊤X+λI)−1X⊤y,\hat{\boldsymbol \beta}_\lambda = (\mathbf X^\top \mathbf X + \lambda \mathbf I)^{-1} \mathbf X^\top \mathbf y, que λλ\lambda é um parâmetro de regularização. É sabido que frequentemente apresenta um desempenho melhor …

16 regression  ridge-regression  shrinkage 

Estou estudando redes neurais convolucionais (CNNs) devido a suas aplicações em visão computacional. Já conheço as redes neurais padrão de feed-forward, por isso espero que algumas pessoas aqui possam me ajudar a dar um passo extra na compreensão das CNNs. Aqui está o que penso sobre as CNNs: Nas NNs …

16 neural-networks  deep-learning  conv-neural-network  convolution 

Ei pessoal, encontrei um ou dois trabalhos que usam regressão de cume (para dados de basquete). Sempre me disseram para padronizar minhas variáveis ​​se eu fizesse uma regressão de crista, mas simplesmente me disseram para fazer isso porque a crista era uma variante de escala (a regressão da crista não …

16 regression  standardization 

Hoje eu ensinei uma aula introdutória de estatística e um aluno veio até mim com uma pergunta, que refiz aqui: "Por que o desvio padrão é definido como sqrt de variação e não como sqrt da soma dos quadrados sobre N?" Definimos variância populacional: σ2=1N∑(xi−μ)2σ2=1N∑(xi−μ)2\sigma^2=\frac{1}{N}\sum{(x_i-\mu)^2} E desvio padrão: σ=σ2−−√=1N√∑(xi−μ)2−−−−−−−−−−√σ=σ2=1N∑(xi−μ)2\sigma=\sqrt{\sigma^2}=\frac{1}{\sqrt{N}}\sqrt{\sum{(x_i-\mu)^2}} . …

16 variance  standard-deviation  intuition  teaching