Estatísticas e Big Data

Existe alguma explicação intuitiva para essa terminologia? Por que é assim, e não o (s) preditor (es) está (s) sendo regredido (s) no resultado? Idealmente, espero que uma explicação adequada de por que essa terminologia exista ajude os alunos a lembrá-la e os impeça de dizer o contrário.

16 regression  terminology  teaching 

Estou confuso sobre o método da máxima verossimilhança em comparação com, por exemplo, calcular a média aritmética. Quando e por que a probabilidade máxima produz estimativas "melhores" do que, por exemplo, a média aritmética? Como isso é verificável?

16 maximum-likelihood 

Encontrei alguns profissionais da análise discriminante e tenho perguntas sobre eles. Então: Quando as classes são bem separadas, as estimativas de parâmetros para regressão logística são surpreendentemente instáveis. Coeficientes podem ir para o infinito. LDA não sofre com esse problema. Se o número de características for pequeno e a distribuição …

16 regression  logistic  multivariate-analysis  discriminant-analysis 

Quais são os prós e os contras dos dois métodos?

16 maximum-likelihood  predictive-models  optimization  gradient-descent 

Eu acho que as duas fórmulas a seguir são verdadeiras: Var(aX)=a2Var(X)Var(aX)=a2Var(X) \mathrm{Var}(aX)=a^2 \mathrm{Var}(X) enquanto a é um número constante Var(X+Y)=Var(X)+Var(Y)Var(X+Y)=Var(X)+Var(Y) \mathrm{Var}(X + Y)=\mathrm{Var}(X)+\mathrm{Var}(Y) seXXX ,YYY são independentes No entanto, não tenho certeza do que está errado com o abaixo: Var(2X)=Var(X+X)=Var(X)+Var(X)Var(2X)=Var(X+X)=Var(X)+Var(X)\mathrm{Var}(2X) = \mathrm{Var}(X+X) = \mathrm{Var}(X) + \mathrm{Var}(X) que não seja igual …

16 variance  linearity  fallacy 

Vamos considerar o problema de classificar o conjunto de dados MNIST. De acordo com a página MNIST da Yann LeCun , 'Ciresan et al.' obteve uma taxa de erro de 0,23% no conjunto de testes MNIST usando a Rede Neural Convolucional. Vamos denotar o treinamento MNIST definido como , o …

16 machine-learning  classification  overfitting  probability-inequalities 

Estou tentando usar a floresta aleatória para prever o resultado de um conjunto de dados extremamente desequilibrado (a taxa de classe minoritária é de apenas 1% ou até menos). Como o algoritmo tradicional de floresta aleatória minimiza a taxa de erro geral, em vez de prestar atenção especial às classes …

16 r  random-forest 

Conheço muito pouco de Probabilidade e Estatística e desejo aprender. Vejo a palavra "distribuição" usada em todo o lugar em diferentes contextos. Por exemplo, uma variável aleatória discreta tem uma "distribuição de probabilidade". Eu sei o que é isso. Uma variável aleatória contínua possui uma função de densidade de probabilidade; …

16 distributions  definition 

Estou realizando um teste de adequação do qui-quadrado (GOF) com três categorias e quero especificamente testar o nulo de que as proporções da população em cada categoria são iguais (ou seja, a proporção é de 1/3 em cada grupo): DADOS OBSERVADOS Grupo 1 Grupo 2 Grupo 3 Total 686 928 …

16 hypothesis-testing  chi-squared  goodness-of-fit  post-hoc 

Acabei de começar a estudar estatística e não consigo entender intuitivamente a suficiência. Para ser mais preciso, não consigo entender como mostrar que os dois parágrafos a seguir são equivalentes: Grosso modo, dado um conjunto X de dados independentes distribuídos de forma idêntica condicionados a um parâmetro desconhecido θ, uma …

16 sufficient-statistics 

Se começarmos com um conjunto de dados , aplicar o Lasso a ele e obter uma solução , podemos aplicar o Lasso novamente ao conjunto de dados , onde é o conjunto de zero índices de , para obter uma solução, , chamada solução 'LASSO relaxada' (corrija-me se estiver errado!). …

16 regression  optimization  lasso  regularization  shrinkage 

Conforme explicado neste folheto do curso (página 1) , um modelo linear pode ser escrito no formato: y=β1x1+⋯+βpxp+εi,y=β1x1+⋯+βpxp+εi, y = \beta_1 x_{1} + \cdots + \beta_p x_{p} + \varepsilon_i, onde yyy é a variável de resposta e xixix_{i} é o ithithi^{th} variável de motivos. Freqüentemente, com o objetivo de atender …

16 regression  generalized-linear-model  data-transformation  linear-model 

Na regressão de laço ou cordão, é necessário especificar um parâmetro de retração, geralmente chamado por λλ\lambda ou αα\alpha . Esse valor geralmente é escolhido por meio da validação cruzada, verificando-se vários valores diferentes nos dados de treinamento e ver qual produz melhor, por exemplo, nos dados de teste. Qual …

16 regression  lasso  regularization  ridge-regression  penalized 

Como você estima o modelo de previsão apropriado para uma série temporal por inspeção visual dos gráficos ACF e PACF? Qual deles (ou seja, ACF ou PACF) diz ao AR ou ao MA (ou ambos)? Qual parte dos gráficos informa a parte sazonal e não sazonal de um ARIMA sazonal? …

16 r  time-series  forecasting  acf-pacf 

Minhas perguntas são: Os modelos lineares generalizados (GLMs) garantem convergir para um máximo global? Se sim, por quê? Além disso, que restrições existem na função de link para garantir a convexidade? Meu entendimento dos GLMs é que eles maximizam uma função de probabilidade altamente não-linear. Assim, eu imaginaria que existem …

16 generalized-linear-model  optimization  convergence  exponential-family