Estatísticas e Big Data

Axiomaticamente, probabilidade é uma função que atribui um número real P ( A ) a cada evento A se satisfizer as três suposições fundamentais (suposições de Kolmogorov):PPPP( A )P(A)P(A)UMAAA P( A ) ≥ 0 para cada A P(A)≥0 for everyAP(A) \geq 0 \ \text{for every} A P( Ω ) = …

10 probability  kolmogorov-axioms 

Meu entendimento sobre o que é um estimador e uma estimativa: Estimador: uma regra para calcular uma estimativa Estimativa: O valor calculado a partir de um conjunto de dados com base no estimador Entre esses dois termos, se for solicitado que eu aponte a variável aleatória, eu diria que a …

10 mathematical-statistics  inference  random-variable  estimators 

O ensino padrão diz que sensibilidade e especificidade são propriedades do teste e são independentes da prevalência. Mas isso não é apenas uma suposição? Os princípios da medicina interna de Harrison Há muito tempo se afirma que a sensibilidade e a especificidade são parâmetros independentes da prevalência da precisão do …

10 bayesian  epidemiology  diagnostic  sensitivity-specificity 

Estou interessado no estado da arte atual para selecionar sementes iniciais (centros de cluster) para K-means. O Google leva a duas opções populares: seleção aleatória de sementes iniciais e, usando a técnica de seleção KMeans ++: Arthur & Vassilvitskii 2006 k-means ++: As vantagens da sementeira cuidadosa Existem outros métodos …

10 clustering  k-means 

Não tenho um exemplo ou tarefa específica em mente. Eu sou apenas novo no uso de splines-b e queria entender melhor essa função no contexto de regressão. Vamos supor que queremos avaliar a relação entre a variável resposta e alguns preditores x 1 , x 2 , . . . …

10 regression  multiple-regression  splines  polynomial  penalized 

Isso é citado com muita frequência ao mencionar a maldição da dimensionalidade e vai (fórmula à direita chamada contraste relativo) limd→∞var(||Xd||kE[||Xd||k])=0,then:Dmaxkd−DminkdDminkd→0limd→∞var(||Xd||kE[||Xd||k])=0,then:Dmaxdk−DmindkDmindk→0 \lim_{d\rightarrow \infty} \text{var} \left(\frac{||X_d||_k}{E[||X_d||_k]} \right) = 0, \text{then}: \frac{D_{\max^{k}_{d}} - D_{\min^{k}_{d}}}{D_{\min^{k}_{d}}} \rightarrow 0 O resultado do teorema mostra que a diferença entre as distâncias máxima e mínima para um …

10 machine-learning  distance-functions  high-dimensional 

Uma simplificação frequente na modelagem e simulação é substituir uma variável aleatória pelo seu valor médio. Quando essa simplificação levaria à conclusão errada?

10 modeling  mean  random-variable 

O teorema de Pitman – Koopman – Darmois diz que se uma amostra de uma família parametrizada de distribuições de probabilidade admite uma estatística suficiente cujo número de componentes escalares não cresce com o tamanho da amostra, então é uma família exponencial. Algum livro didático ou documentação expositiva elementar fornece …

10 mathematical-statistics  references 

Seja sejam variáveis ​​aleatórias normais padrão independentes. Existem muitas (longas) provas por aí, mostrando queZ1,⋯,ZnZ1,⋯,ZnZ_1,\cdots,Z_n ∑i=1n(Zi−1n∑j=1nZj)2∼χ2n−1∑i=1n(Zi−1n∑j=1nZj)2∼χn−12 \sum_{i=1}^n \left(Z_i - \frac{1}{n}\sum_{j=1}^n Z_j \right)^2 \sim \chi^2_{n-1} Muitas provas são bastante longas e algumas delas usam indução (por exemplo, Casella Statistical Inference). Gostaria de saber se existe alguma prova fácil desse resultado.

10 mathematical-statistics  sampling 

A seguir, é apresentada uma pergunta sobre as muitas visualizações oferecidas como 'prova por imagem' da existência do paradoxo de Simpson e, possivelmente, uma pergunta sobre terminologia. O Paradoxo de Simpson é um fenômeno bastante simples para descrever e fornecer exemplos numéricos (a razão pela qual isso pode acontecer é …

10 mathematical-statistics  data-visualization  causality  contingency-tables  simpsons-paradox 

Estou trabalhando no artigo de Cho 2014 , que introduziu a arquitetura codificador-decodificador para modelagem seq2seq. No artigo, eles parecem usar a probabilidade da saída fornecida (ou é uma probabilidade negativa de log) como a função de perda para uma entrada de comprimento e saída de comprimento :xxxMMMyyyNNN P(y1,…,yN|x1,…,xM)=P(y1|x1,…,xm)P(y2|y1,x1,…,xm)…P(yN|y1,…,yN−1,x1,…,xm)P(y1,…,yN|x1,…,xM)=P(y1|x1,…,xm)P(y2|y1,x1,…,xm)…P(yN|y1,…,yN−1,x1,…,xm)P(y_1, …, …

10 deep-learning  loss-functions  rnn 

Suponha que temos 3 variáveis ​​aleatórias e conhecemos a distribuição marginal em pares , mas não sabemos mais nada (como como independência condicional). Podemos obter a distribuição conjunta ? P ( X 1 , X 2 ) , P ( X 2 , X 3 ) , P ( X …

10 probability  distributions 

Qual é o nome do operador que pega um vetor categórico e o transforma na representação binária usando a codificação one-hot? Fico pensando desde que estou escrevendo um artigo científico e preciso de um nome adequado para isso.

10 terminology  categorical-encoding 

Em várias respostas, vi usuários CrossValidated sugerirem que o OP encontre artigos iniciais sobre Lasso, Ridge e Elastic Net. Para a posteridade, quais são as obras seminais sobre Lasso, Ridge e Elastic Net?

10 references  lasso  regularization  ridge-regression  elastic-net 

Eu estava experimentando a relação entre os erros e os resíduos usando algumas simulações simples em R. Uma coisa que eu descobri é que, independentemente do tamanho da amostra ou variação de erro, sempre consigo exatamente 1 11 11 para a inclinação quando você se encaixa no modelo e r …

10 regression  least-squares  residuals