Estatísticas e Big Data

Meu colega e eu estamos tentando entender a diferença entre regressão logística e SVM. Claramente, eles estão otimizando diferentes funções objetivas. Um SVM é tão simples quanto dizer que é um classificador discriminativo que simplesmente otimiza a perda de dobradiça? Ou é mais complexo que isso? Como os vetores de …

9 regression  logistic  svm  max-margin 

O coeficiente de correlação de Matthews ( ) é uma medida para medir a qualidade de uma classificação binária ([Wikipedia] [1]). formulação é fornecida para classificação binária utilizando valores de positivos verdadeiros ( ), falsos positivos ( ), falsos negativos ( ) e negativos verdadeiros ( ), conforme indicado abaixo:MCCMCC\textrm{MCC}MCCMCC\textrm{MCC} …

9 machine-learning  classification  multi-class  agreement-statistics 

Estou usando a adonis()função no veganpacote para determinar 1) se as espécies hospedeiras co-ocorrentes variam em sua comunidade microbiana em vários locais e 2) se os locais são diferentes. Examinei todas as postagens no CV e no SO, e não há uma resposta clara sobre como determinar a significância de …

9 r  permutation-test  sums-of-squares  blocking 

Observei que a função laço no MATLAB é relativamente lenta. Eu corro muitos problemas de regressão, com tipicamente 1 a 100 preditores e 200 a 500 observações. Em alguns casos, o laço mostrou-se extremamente lento (para resolver problemas de regressão, levou vários minutos). Descobri que esse era o caso quando …

9 regression  feature-selection  regularization 

Suponha que tenha uma distribuição binomial em que o anterior do parâmetro seja uniforme. Como posso obter a distribuição posterior do parâmetro?

9 bayesian  posterior 

Estou lendo este artigo: tradutor skype onde eles usam CD-DNN-HMMs (redes neurais profundas dependentes de contexto com modelos de Markov ocultos). Eu posso entender a idéia do projeto e a arquitetura que eles projetaram, mas não entendo o que são os senones . Estive procurando uma definição, mas não encontrei …

9 neural-networks  deep-learning  terminology  natural-language  hidden-markov-model 

Estou procurando uma explicação mecânica 1) e 2) intuitiva de como os efeitos de variáveis ​​individuais são determinados mantendo outras variáveis ​​constantes. Em um exemplo usando dados de pesquisa, o que exatamente significa dizer: "mantendo idade, sexo e renda constantes, o efeito da educação é ___" Meu entendimento é que, …

9 regression  interpretation 

Estou um pouco intrigado com a fórmula apresentada na "Introdução ao aprendizado estatístico" de Hastie. No capítulo 6, página 212 (sexta impressão, disponível aqui ), afirma-se que: AIC=RSSnσ^2+2dnUMAEuC=RSSnσ^2+2dnAIC = \frac{RSS}{n\hat\sigma^2} + \frac{2d}{n} Para modelos lineares com ruído gaussiano, é o número de preditores e a estimativa da variação do erro. …

9 regression  machine-learning  aic 

sejam variáveis ​​aleatórias definidas no mesmo espaço de probabilidade e covariância de e seja finita, então a lei da fórmula total de decomposição de covariância / covariância declara: Qual é a interpretação de e ?X, Y, ZX,Y,ZX,Y,ZXXXYYYCov(X,Y)=E[Cov(X,Y|Z)](i)+Cov[E(X|Z),E(Y|Z)](ii)Cov(X,Y)=E[Cov(X,Y|Z)]⏟(i)+Cov[E(X|Z),E(Y|Z)]⏟(ii)\begin{align} \text{Cov}(X,Y)=\underbrace{\mathbb{E}\big[\text{Cov}(X,Y\lvert Z)\big]}_{\text{(i)}}+\underbrace{\text{Cov}\big[\mathbb{E}(X\lvert Z),\mathbb{E}(Y\lvert Z)\big]}_{\text{(ii)}} \end{align}(i)(i)\text{(i)}(ii)(ii)\text{(ii)} Penso: em (ii) as duas expectativas condicionais podem …

9 probability  covariance  variance-decomposition 

Pesquisando sobre o algoritmo xgboost, examinei a documentação . Nesta abordagem, as árvores são regularizadas usando a definição de complexidade que e são parâmetros, é o número de folhas terminais e é a pontuação em cada folha. γλTwjΩ ( f) = γT+ 12λ ∑j = 1TW2jΩ(f)=γT+12λ∑j=1Twj2 \Omega(f) = \gamma T …

9 cart  regularization  boosting  gradient-descent  overfitting 

Fiz uma pergunta sobre um modelo linear feito com R lm: "A regressão usou mínimos quadrados iterativos lineares ou não lineares?" Eu procurei um pouco e [acho que] entendi a diferença entre os dois, mas não consegui encontrar nenhuma evidência do uso de mínimos quadrados lineares por R lm(que é …

9 r  linear-model  lm 

Nos modelos CBOW e skip-gram do word2vec, como a escolha de vetores de palavras de (matriz de palavras de entrada) versus a escolha de vetores de palavras de (matriz de palavras de saída) afeta a qualidade dos vetores de palavras resultantes?W ′WWWW′W′W' CBOW: Skip-gram:

9 neural-networks  natural-language  word2vec  word-embeddings 

Estou tentando entender a definição exata dos parâmetros de localização / escala / forma (por exemplo, é chamado parâmetro de forma ec é parâmetro de escala no Pareto Tipo I). Mas os livros aos quais me referi ( The Cambridge Dictionary of Statistics , HMC's Introduction to Mathematics Statistics , …

9 mathematical-statistics  nonparametric  definition 

Considere um processo aleatório para o qual a média existe e seja constante, para todos os momentos , ou seja, para todos os tempos turnos do tempo (ou "atrasos") . Não imponho condições adicionais a momentos mais altos nem à função de distribuição. Como posso descrever esse processo? É apenas …

9 time-series  terminology  stationarity  stochastic-processes 

Suponhamos que estamos a lidar com este conjunto de dados onde X i é variável contínua (por exemplo exponencial) e N i é distribuição discreta (por exemplo de Poisson) para i = 1 , . . . , N . Digamos que ρ é a correlação entre X e N …

9 correlation  count-data