Estatísticas e Big Data pca

1

Como estão relacionados o PCA, LDA, CCA e PLS? Todos eles parecem algébricos "espectrais" e lineares e muito bem compreendidos (digamos, mais de 50 anos de teoria construídos em torno deles). Eles são usados para coisas muito diferentes (PCA para redução de dimensionalidade, LDA para classificação, PLS para regressão), mas …

26 pca discriminant-analysis partial-least-squares canonical-correlation

5

Como os principais componentes principais podem reter o poder preditivo de uma variável dependente (ou até levar a melhores previsões)?

Suponha que eu estou correndo uma regressão . Por seleccionando top principais componentes do , é que o modelo de manter o seu poder preditivo em ?k X YY∼XY∼XY \sim XkkkXXXYYY Eu entendo que a partir de-redução de dimensionalidade / ponto de recurso de seleção de vista, se são os …

25 regression classification pca dimensionality-reduction regularization

3

Interpretação da regularização de crista em regressão

Tenho várias perguntas sobre a penalidade de cordilheira no contexto de mínimos quadrados: βr i dge= ( λ ID+ X′X)- 1X′yβridge=(λID+X′X)−1X′y\beta_{ridge} = (\lambda I_D + X'X)^{-1}X'y 1) A expressão sugere que a matriz de covariância de X é reduzida em direção a uma matriz diagonal, o que significa que (assumindo …

25 regression pca regularization ridge-regression

2

Faz sentido combinar PCA e LDA?

Suponha que eu tenha um conjunto de dados para uma tarefa de classificação estatística supervisionada, por exemplo, por meio de um classificador Bayes. Este conjunto de dados consiste em 20 recursos e eu quero reduzi-lo a 2 recursos por meio de técnicas de redução de dimensionalidade, como Análise de Componentes …

25 classification pca regularization discriminant-analysis overfitting

2

Como usar os resultados do R prcomp para previsão?

Eu tenho um data.frame com 800 obs. de 40 variáveis e gostaria de usar a Análise de componentes principais para melhorar os resultados da minha previsão (que até agora está funcionando melhor com a Support Vector Machine em cerca de 15 variáveis escolhidas a dedo). Entendo que um prcomp pode …

25 r pca

3

LSA vs. PCA (agrupamento de documentos)

Estou investigando várias técnicas usadas no agrupamento de documentos e gostaria de esclarecer algumas dúvidas sobre o PCA (análise de componentes principais) e LSA (análise semântica latente). Primeira coisa - quais são as diferenças entre eles? Eu sei que no PCA, a decomposição de SVD é aplicada à matriz de …

25 clustering pca data-mining svd lsa

2

O PCA é instável sob multicolinearidade?

Eu sei que em uma situação de regressão, se você tem um conjunto de variáveis altamente correlacionadas, isso geralmente é "ruim" devido à instabilidade nos coeficientes estimados (a variação vai para o infinito, enquanto o determinante vai para zero). Minha pergunta é se essa "maldade" persiste em uma situação de …

25 pca multicollinearity

5

Exemplos de PCA em que PCs com baixa variação são "úteis"

Normalmente, na análise de componentes principais (PCA), os primeiros PCs são usados e os PCs de baixa variância são descartados, pois não explicam grande parte da variação nos dados. No entanto, existem exemplos em que os PCs de baixa variação são úteis (ou seja, são utilizados no contexto dos dados, …

24 pca

2

Como entender “não linear” como em “redução de dimensionalidade não linear”?

Estou tentando entender as diferenças entre os métodos de redução de dimensionalidade linear (por exemplo, PCA) e os não lineares (por exemplo, Isomap). Não consigo entender direito o que a (não) linearidade implica nesse contexto. Eu li na Wikipedia que Por comparação, se o PCA (um algoritmo de redução de …

24 pca terminology dimensionality-reduction pattern-recognition manifold-learning

3

Como exatamente o PCA esparso é melhor que o PCA?

Eu aprendi sobre o PCA algumas aulas atrás na aula e, pesquisando mais sobre esse conceito fascinante, fiquei sabendo sobre o PCA escasso. Eu queria perguntar, se não estou errado, é isso o PCA escasso: No PCA, se você tiver pontos de dados com variáveis , poderá representar cada ponto …

24 machine-learning pca sparse

1

Propriedades do PCA para observações dependentes

Normalmente, usamos o PCA como uma técnica de redução de dimensionalidade para dados em que casos são considerados iid Pergunta: Quais são as nuances típicas na aplicação do PCA para dados dependentes e não-iid? Quais propriedades agradáveis / úteis do PCA mantidas para dados iid estão comprometidas (ou perdidas totalmente)? …

23 time-series pca non-independent iid

2

Qual é a diferença entre PCA e PCA assintótico?

Em dois trabalhos em 1986 e 1988 , Connor e Korajczyk propuseram uma abordagem para modelar o retorno de ativos. Como essas séries temporais geralmente têm mais ativos do que as observações do período, eles propuseram realizar um PCA nas covariâncias transversais dos retornos dos ativos. Eles chamam esse método …

23 pca econometrics

4

Imputação de valores ausentes para PCA

Eu usei a prcomp()função para executar um PCA (análise de componentes principais) em R. No entanto, há um erro nessa função, de modo que o na.actionparâmetro não funciona. Eu pedi ajuda no stackoverflow ; dois usuários ofereceram duas maneiras diferentes de lidar com NAvalores. No entanto, o problema com as …

23 r pca missing-data data-imputation

1

Por que existem componentes principais para dados se o número de dimensões é ?

No PCA, quando o número de dimensões é maior que (ou mesmo igual a) o número de amostras , por que você terá no máximo autovetores diferentes de zero? Em outras palavras, a classificação da matriz de covariância entre as dimensões é .dddNNNN−1N−1N-1d≥Nd≥Nd\ge NN−1N−1N-1 Exemplo: suas amostras são imagens vetorizadas, …

22 pca dimensionality-reduction eigenvalues

2

Por que PCA de dados por meio de SVD dos dados?

Esta pergunta é sobre uma maneira eficiente de calcular os componentes principais. Muitos textos sobre PCA linear advogam o uso da decomposição de valor singular dos dados casewise . Ou seja, se temos dados XX\bf X e queremos substituir as variáveis (suas colunas ) por componentes principais, fazemos SVD: X=USV′X=USV′\bf …

22 pca algorithms svd matrix-decomposition

Perguntas com a marcação «pca»