Estatísticas e Big Data

Ao executar uma ANOVA, somos informados de que certas suposições do teste devem estar presentes para que seja aplicável aos dados. Eu nunca entendi o motivo pelo qual as seguintes suposições eram necessárias para o teste funcionar: A variação de sua variável dependente (resíduos) deve ser igual em cada célula …

15 hypothesis-testing  anova  assumptions 

Em que ponto começamos a classificar as redes neurais multicamadas como redes neurais profundas ou, de outra forma, 'Qual é o número mínimo de camadas em uma rede neural profunda?'

15 machine-learning  neural-networks  deep-learning  terminology 

O valor esperado de uma distribuição f( X )f(x)f(x) é a média, ou seja, o valor médio ponderado E[ x ] = ∫+ ∞- ∞xf( x ) dxE[x]=∫-∞+∞xf(x)dxE[x]=\int_{-\infty}^{+\infty} x \, \, f(x) dx O valor mais provável é o modo, que é o valor mais provável. No entanto, esperamos ver …

15 probability  distributions  chi-squared  expected-value  mode 

Na regressão linear (perda ao quadrado), usando matriz, temos uma notação muito concisa para o objetivo minimizar ∥ A x - b ∥ 2minimizar __UMAx-b__2\text{minimize}~~ \|Ax-b\|^2 Onde é a matriz de dados, x são os coeficientes eb é a resposta.UMAUMAAxxxbbb Existe uma notação matricial semelhante para o objetivo da regressão …

15 regression  logistic  linear-model  notation 

Estou tentando entender a diferença básica entre regressão stepwise e backward em R usando a função step. Para regressão gradual, usei o seguinte comando step(lm(mpg~wt+drat+disp+qsec,data=mtcars),direction="both") Eu tenho a saída abaixo para o código acima. Para seleção de variável para trás, usei o seguinte comando step(lm(mpg~wt+drat+disp+qsec,data=mtcars),direction="backward") E eu tenho a saída …

15 r  regression 

Uma suposição básica do uso de modelos de regressão para inferência é que "todos os preditores relevantes" foram incluídos na equação de previsão. A lógica é que a falha em incluir um fator importante do mundo real leva a coeficientes tendenciosos e, portanto, inferências imprecisas (ou seja, viés variável omitido). …

15 regression  assumptions  bias  predictor  confounding 

No capítulo 9 do livro Reconhecimento de padrões e aprendizado de máquina, há uma parte sobre o modelo de mistura gaussiano: Para ser sincero, não entendo por que isso criaria uma singularidade. Alguém pode me explicar isso? Sinto muito, mas sou apenas um graduado e um novato em aprendizado de …

15 gaussian-mixture 

Estou tentando duplicar os resultados da sklearnbiblioteca de regressão logística usando o glmnetpacote em R. A partir da documentação dasklearn regressão logística , ele está tentando minimizar a função de custo sob pena de l2 min w , c 1minw , c12WTw + C∑i = 1Nregistro( exp( - yEu( XTEuw …

15 r  logistic  python  scikit-learn  glmnet 

Eu queria saber quais são os critérios para usar Kolmogorov-Smirnov, Cramer-von-Mises e Anderson-Darling ao comparar 2 ECDFS. Conheço a matemática de como cada um difere, mas se eu tiver alguns dados do ECDF, como saberia qual teste é apropriado usar?

15 kolmogorov-smirnov  anderson-darling  two-sample 

Sou engenheiro de software trabalhando em aprendizado de máquina. Pelo meu entendimento, regressão linear (como OLS) e classificação linear (como regressão logística e SVM) fazem uma previsão com base em um produto interno entre coeficientes treinados variáveis ​​de recurso → x :W⃗ W→\vec{w}x⃗ x→\vec{x} y^= f( w⃗ ⋅ x⃗ ) …

15 regression  machine-learning  classification  feature-selection  linear-model 

Quando implementei o mini gradiente de lote decente, apenas calculei a média dos gradientes de todos os exemplos no lote de treinamento. No entanto, notei que agora a taxa de aprendizado ideal é muito maior do que a do gradiente on-line decente. Minha intuição é que isso ocorre porque o …

15 neural-networks  gradient-descent  backpropagation 

Até onde eu entendi, a correlação de distância é uma maneira robusta e universal de verificar se há uma relação entre duas variáveis ​​numéricas. Por exemplo, se tivermos um conjunto de pares de números: (x1, y1) (x2, y2) ... (xn, yn) podemos usar a correlação de distância para verificar se …

15 correlation  independence  intuition  distance-covariance 

Li várias vezes que a validação cruzada "Deixar um fora" tem alta variação devido à grande sobreposição das dobras de treinamento. No entanto, não entendo por que isso é: o desempenho da validação cruzada não deve ser muito estável (baixa variação) exatamente porque os conjuntos de treinamento são quase idênticos? …

15 variance  cross-validation  bias 

Estou tentando entender as cadeias de Markov usando SAS. Entendo que um processo de Markov é aquele em que o estado futuro depende apenas do estado atual e não do estado passado e existe uma matriz de transição que captura a probabilidade de transição de um estado para outro. Mas …

15 probability  simulation  mcmc  monte-carlo  markov-process 

Uma distribuição Tweedie pode modelar dados assimétricos com uma massa de pontos em zero quando o parâmetro (expoente na relação média-variância) estiver entre 1 e 2.ppp Da mesma forma, um modelo inflado a zero (seja ele contínuo ou discreto) pode ter um grande número de zeros. Estou tendo problemas para …

15 r  generalized-linear-model  prediction  zero-inflation  tweedie-distribution