Perguntas com a marcação «svd»

Estou investigando várias técnicas usadas no agrupamento de documentos e gostaria de esclarecer algumas dúvidas sobre o PCA (análise de componentes principais) e LSA (análise semântica latente). Primeira coisa - quais são as diferenças entre eles? Eu sei que no PCA, a decomposição de SVD é aplicada à matriz de …

25 clustering  pca  data-mining  svd  lsa 

Esta pergunta é sobre uma maneira eficiente de calcular os componentes principais. Muitos textos sobre PCA linear advogam o uso da decomposição de valor singular dos dados casewise . Ou seja, se temos dados XX\bf X e queremos substituir as variáveis ​​(suas colunas ) por componentes principais, fazemos SVD: X=USV′X=USV′\bf …

22 pca  algorithms  svd  matrix-decomposition 

Na filtragem colaborativa, temos valores que não são preenchidos. Suponha que um usuário não assistiu a um filme, então precisamos colocar um 'na' nele. Se eu for usar um SVD dessa matriz, preciso inserir um número - digamos 0. Agora, se eu fatorar a matriz, tenho um método para encontrar …

21 machine-learning  svd  recommender-system 

Eu me deparei com um cenário em que tenho 10 sinais / pessoa para 10 pessoas (então 100 amostras) contendo 14000 pontos de dados (dimensões) que preciso passar para um classificador. Gostaria de reduzir a dimensionalidade desses dados e o PCA parece ser o caminho para fazê-lo. No entanto, só …

21 pca  dimensionality-reduction  svd 

Observo um comportamento muito estranho no resultado SVD de dados aleatórios, que posso reproduzir tanto no Matlab quanto no R. Parece um problema numérico na biblioteca LAPACK; é isso? Eu desenho n=1000n=1000n=1000 amostras do Gaussiano k=2k=2k=2 dimensional com média zero e covariância de identidade: X∼N(0,I)X∼N(0,I)X\sim \mathcal N (0, \mathbf I) …

21 pca  svd  linear-algebra  numerics 

Eu entendi como a regressão da crista reduz os coeficientes em direção a zero geometricamente. Além disso, sei como provar isso no "Caso Ortonormal" especial, mas estou confuso de como isso funciona no caso geral via "Decomposição espectral".

20 regression  multiple-regression  regularization  ridge-regression  svd 

Sei como calcular matematicamente PCA e SVD e sei que ambos podem ser aplicados à regressão de mínimos quadrados lineares. A principal vantagem do SVD matematicamente parece ser que ele pode ser aplicado a matrizes não quadradas. Ambos focam na decomposição da matrizAlém da vantagem do SVD mencionada, existem vantagens …

20 pca  least-squares  svd 

Tenho algumas perguntas rápidas sobre o PCA: O PCA assume que o conjunto de dados é gaussiano? O que acontece quando aplico um PCA a dados inerentemente não lineares? Dado um conjunto de dados, o processo deve primeiro normalizar a média, definir a variação para 1, obter um SVD, reduzir …

20 pca  svd 

Eu estou olhando para implementar um biplot para análise de componentes principais (PCA) em JavaScript. Minha pergunta é: como determinar as coordenadas das setas da saída da decomposição de vetor singular (SVD) da matriz de dados?você, V, DU,V,DU,V,D Aqui está um exemplo de biplot produzido por R: biplot(prcomp(iris[,1:4])) Tentei procurar …

18 pca  svd  biplot 

Recentemente, li o livro de Skillicorn sobre decomposições matriciais e fiquei um pouco decepcionado, pois era direcionado a um público de graduação. Gostaria de compilar (para mim e para os outros) uma breve bibliografia de artigos essenciais (pesquisas, mas também artigos inovadores) sobre decomposições matriciais. O que eu tenho em …

18 matrix-decomposition  svd  numerics 

Eu quero implementar um algoritmo em um documento que usa o SVD do kernel para decompor uma matriz de dados. Então, eu tenho lido materiais sobre métodos do kernel e PCA do kernel etc. Mas ainda é muito obscuro para mim, especialmente quando se trata de detalhes matemáticos, e eu …

18 pca  svd  kernel-trick 

Suponha que eu possua uma matriz densa de m × n , com decomposição SVD A = U S V ⊤ . Em que posso calcular o SVD da seguinte forma: .UMAUMA \textbf{A}m × nm×nm \times nA = U S V⊤.UMA=vocêSV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) Se uma nova -ésima linha for adicionada a A …

17 algorithms  svd  linear-algebra  matrix-decomposition  numerics 

O artigo da Wikipedia sobre análise de componentes principais afirma que Existem algoritmos eficientes para calcular o SVD de sem precisar formar a matriz , portanto, calcular o SVD agora é a maneira padrão de calcular uma análise de componentes principais a partir de uma matriz de dados, a menos …

17 pca  algorithms  svd  numerics 

Suponha que tenhamos NNN variáveis ​​mensuráveis, ( a1, um2, ... , UmN)(uma1,uma2,...,umaN)(a_1, a_2, \ldots, a_N) , fazemos um número M> NM>NM > N de medições e, em seguida, desejamos realizar uma decomposição de valor singular nos resultados para encontrar os eixos de maior variância para a MMM pontos no espaço …

17 pca  data-transformation  normalization  dimensionality-reduction  svd 

Os componentes do PCA (na análise de componentes principais) são estatisticamente independentes se nossos dados são multivariados normalmente distribuídos? Se sim, como isso pode ser demonstrado / comprovado? Pergunto porque vi este post , onde a resposta principal diz: O PCA não faz uma suposição explícita de Gaussianity. Ele encontra …

16 pca  independence  svd