Estatísticas e Big Data

Estou trabalhando em um problema de inferência de alta dimensão (em torno de 2000 parâmetros do modelo) para o qual somos capazes de executar com precisão a estimativa de MAP encontrando o máximo global do log-posterior usando uma combinação de otimização baseada em gradiente e um algoritmo genético. Eu gostaria …

9 bayesian  uncertainty  high-dimensional  variational-bayes 

Nos documentos de aprendizado do scikit sobre calibração de probabilidade, eles comparam a regressão logística com outros métodos e observam que a floresta aleatória é menos bem calibrada que a regressão logística. Por que a regressão logística é bem calibrada? Como alguém poderia arruinar a calibração de uma regressão logística …

9 regression  logistic  calibration 

No Deep Learning de François Chollet com Python, ele diz: Como resultado, o ajuste da configuração do modelo com base em seu desempenho no conjunto de validação pode resultar rapidamente na adaptação excessiva ao conjunto de validação, mesmo que seu modelo nunca seja treinado diretamente sobre ele. Central para esse …

9 neural-networks  cross-validation  hyperparameter 

Considere o caso descrito abaixo, de Peacock (1972). Essa passagem parece implicar que o jovem estatístico está fazendo uma declaração inteligente e correta. Mas ele é?

9 experiment-design  clinical-trials 

Foi-me feita a seguinte pergunta por um amigo. Não pude ajudá-la, mas espero que alguém possa me explicar. Não encontrei nenhum exemplo semelhante. Obrigado por qualquer ajuda e explicação. P: Os resultados de 100 experimentos de sorteio são registrados como 0 = "Cauda" e 1 = "Cabeça". A saída x …

9 probability  inference  bernoulli-distribution 

Pegue 20 pontos aleatórios em um espaço de 10.000 dimensões com cada ID de coordenada de . Divida-os em 10 pares ("casais") e adicione a média de cada par ("um filho") ao conjunto de dados. Em seguida, faça o PCA nos 30 pontos resultantes e plote PC1 vs PC2.N( 0 …

9 pca  python  high-dimensional  genetics  gwas 

Estou tentando entender a otimização da descida do gradiente nos algoritmos de ML (aprendizado de máquina). Entendo que existe uma função de custo - em que o objetivo é minimizar o erro . Em um cenário em que os pesos estão sendo otimizados para fornecer o erro mínimo e derivadas …

9 optimization  gradient-descent 

Uma função no formato tem um nome padrão? Por exemplo, é uma função linear.ex/(1+ex)ex/(1+ex)e^x/(1+e^x)y=a+bxy=a+bxy = a + bx

9 logistic  neural-networks  deep-learning  terminology 

Com a regressão OLS aplicada à resposta contínua, pode-se construir a equação de regressão múltipla executando sequencialmente as regressões dos resíduos em cada covariável. Minha pergunta é: existe uma maneira de fazer isso com regressão logística via resíduos de regressão logística ? Ou seja, se eu quiser estimar usando a …

9 regression  logistic  residuals 

Para uma dada variável aleatória (ou uma população, ou um processo estocástico), a expectativa matemática é a resposta a uma pergunta. Que previsão pontual minimiza a perda quadrada esperada? . Além disso, é a solução ideal para um jogo. Adivinhe a próxima realização de uma variável aleatória (ou um novo …

9 variance  standard-deviation  decision-theory  variability 

Dado iid, considere as variáveis ​​aleatóriasX1,…,Xn,…∼N(0,1)X1,…,Xn,…∼N(0,1)X_1, \ldots, X_n, \ldots \sim \mathscr{N}(0,1) Zn:=max1≤i≤nXi.Zn:=max1≤i≤nXi. Z_n := \max_{1 \le i \le n} X_i\,. Pergunta: Qual é o resultado mais "importante" sobre essas variáveis ​​aleatórias? Para esclarecer a "importância", qual resultado tem mais outros resultados como conseqüência lógica? Qual dos resultados é usado com …

9 mathematical-statistics  references  extreme-value  maximum 

Então, eu estou tentando me ensinar redes neurais (para aplicações de regressão, não classificando imagens de gatos). Minhas primeiras experiências foram treinando uma rede para implementar um filtro FIR e uma Transformada Discreta de Fourier (treinamento em sinais "antes" e "depois"), pois essas são operações lineares que podem ser implementadas …

9 machine-learning  neural-networks  optimization  keras  euclidean 

A função densidade de probabilidade de uma distribuição uniforme (contínua) é mostrada acima. A área sob a curva é 1 - o que faz sentido, pois a soma de todas as probabilidades em uma distribuição de probabilidade é 1. Formalmente, a função de probabilidade acima (f (x)) pode ser definida …

9 probability  distributions  uniform 

Dadas duas variáveis ​​aleatórias altamente correlacionadas XXX e YYY , gostaria de limitar a probabilidade de que a diferença | X- Y||X−Y| |X - Y| excede alguma quantidade: P( | X- Y| &gt;K) &lt; δP(|X−Y|&gt;K)&lt;δ P( |X - Y| > K) < \delta Suponha por simplicidade que: Sabe-se que o …

9 correlation  mathematical-statistics  bounds 

Seja uma amostra aleatória da distribuição gama .X1,...,XnX1,...,XnX_1,...,X_nGamma(α,β)Gamma(α,β)\mathrm{Gamma}\left(\alpha,\beta\right) Seja e a média e a variação da amostra, respectivamente.X¯X¯\bar{X}S2S2S^2 Em seguida, prove ou refute que e são independentes.X¯X¯\bar{X}S2/X¯2S2/X¯2S^2/\bar{X}^2 Minha tentativa: Desde , precisamos verificar a independência de e , mas como devo estabelecer a independência entre eles?S2/X¯2=1n−1∑ni=1(XiX¯−1)2S2/X¯2=1n−1∑i=1n(XiX¯−1)2S^2/\bar{X}^2 = \frac{1}{n-1} \sum_{i=1}^n \left(\frac{X_i}{\bar{X}}-1\right)^2 …

9 self-study  distributions  independence  gamma-distribution