Perguntas com a marcação «numerics»

Eu costumo ouvir sobre "mínimos quadrados comuns". Esse é o algoritmo mais usado para regressão linear? Existem motivos para usar um diferente?

42 regression  least-squares  algorithms  computational-statistics  numerics 

Estou estudando PCA no curso Coursera de Andrew Ng e outros materiais. Na primeira tarefa do curso de PNL de Stanford, cs224n , e no vídeo da aula de Andrew Ng , eles fazem decomposição de valor singular em vez de decomposição de vetor próprio da matriz de covariância, e …

29 pca  linear-algebra  svd  eigenvalues  numerics 

Qual é a melhor maneira de calcular a decomposição de valor singular (SVD) de uma matriz positiva muito grande (65M x 3,4M) em que os dados são extremamente escassos? Menos de 0,1% da matriz é diferente de zero. Eu preciso de uma maneira que: caberá na memória (eu sei que …

26 svd  numerics 

Observo um comportamento muito estranho no resultado SVD de dados aleatórios, que posso reproduzir tanto no Matlab quanto no R. Parece um problema numérico na biblioteca LAPACK; é isso? Eu desenho n=1000n=1000n=1000 amostras do Gaussiano k=2k=2k=2 dimensional com média zero e covariância de identidade: X∼N(0,I)X∼N(0,I)X\sim \mathcal N (0, \mathbf I) …

21 pca  svd  linear-algebra  numerics 

Recentemente, li o livro de Skillicorn sobre decomposições matriciais e fiquei um pouco decepcionado, pois era direcionado a um público de graduação. Gostaria de compilar (para mim e para os outros) uma breve bibliografia de artigos essenciais (pesquisas, mas também artigos inovadores) sobre decomposições matriciais. O que eu tenho em …

18 matrix-decomposition  svd  numerics 

Suponha que eu possua uma matriz densa de m × n , com decomposição SVD A = U S V ⊤ . Em que posso calcular o SVD da seguinte forma: .UMAUMA \textbf{A}m × nm×nm \times nA = U S V⊤.UMA=vocêSV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) Se uma nova -ésima linha for adicionada a A …

17 algorithms  svd  linear-algebra  matrix-decomposition  numerics 

O artigo da Wikipedia sobre análise de componentes principais afirma que Existem algoritmos eficientes para calcular o SVD de sem precisar formar a matriz , portanto, calcular o SVD agora é a maneira padrão de calcular uma análise de componentes principais a partir de uma matriz de dados, a menos …

17 pca  algorithms  svd  numerics 

Possivelmente fora do tópico aqui, mas já existem várias ( uma , duas ) questões relacionadas. Pesquisando na literatura (ou uma pesquisa no Google por algoritmos SVD truncados) aparece muitos artigos que usam SVDs truncados de várias maneiras e afirmam (frustrantemente, muitas vezes sem citação) que existem algoritmos rápidos para …

14 algorithms  svd  numerics 

TL; DR: a lme4otimização parece linear no número de parâmetros do modelo por padrão e é muito mais lenta que um glmmodelo equivalente com variáveis ​​dummy para grupos. Existe algo que eu possa fazer para acelerar isso? Estou tentando ajustar um modelo de logit hierárquico bastante grande (~ 50k linhas, …

12 r  mixed-model  optimization  lme4-nlme  numerics 

Tentei implementar uma estimativa numérica da divergência Kullback-Leibler para duas amostras. Para depurar a implementação, extrair as amostras de duas distribuições normais e .N(0,1)N(0,1)\mathcal N (0,1)N(1,2)N(1,2)\mathcal N (1,2) Para uma estimativa simples, gerei dois histogramas e tentei aproximar numericamente a integral. Fiquei preso ao lidar com aquelas partes do histograma …

10 estimation  intuition  kullback-leibler  numerics 

Estou procurando agrupar / mesclar nós em um gráfico usando o agrupamento de gráficos em 'r'. Aqui está uma variação impressionante do meu problema. Existem dois "clusters" Existe uma "ponte" conectando os clusters Aqui está uma rede candidata: Quando olho para a distância da conexão, a "contagem de hop", se …

10 r  clustering  data-visualization  numerics 

Fechadas. Esta questão está fora de tópico . No momento, não está aceitando respostas. Deseja melhorar esta pergunta? Atualize a pergunta para que ela esteja no tópico de validação cruzada Fechado há 2 anos . Esperando o próximo curso de Andrew Ng no Coursera, estou tentando programar no Python um …

10 softmax  numerics 

Motivação : estou escrevendo um estimador de estado no MATLAB (o filtro Kalman sem cheiro), que exige a atualização da raiz quadrada (triangular superior) de uma matriz de covariância a cada iteração (ou seja, para uma matriz de covariância , é verdade que ). Para que eu possa executar os …

9 matlab  covariance-matrix  numerics 

O problema vem da página 377-379 deste [0] documento. Dada uma distribuição contínua FFF e um fixo z∈Rz∈Rz\in\mathbb{R}, considere: Lz(t)=PF(|z−Z|≤t)Lz(t)=PF(|z−Z|≤t)L_z(t)=P_F(|z-Z|\leq t) e H(z)=L−1z(0.5)=medZ∼F|z−Z|H(z)=Lz−1(0.5)=medZ∼F|z−Z|H(z)=L^{-1}_z(0.5)=\underset{Z\sim F}{\mbox{med}}|z-Z| z Z ∼ F zL−1z(u)=inf{t:Lz(t)>u}Lz−1(u)=inf{t:Lz(t)>u}L^{-1}_z(u)=\inf\{t:L_z(t)>u\}zzzZ∼FZ∼FZ\sim Fzzz L(t)=PF(H(Z)≤t)L(t)=PF(H(Z)≤t)L(t)=P_F(H(Z)\leq t) Agora, eu não tenho uma expressão analítica para (na verdade, tenho certeza de que uma expressão analítica não …

8 mathematical-statistics  quantiles  cdf  numerics  quantile-function 

Suponha que eu tenha uma função como: f <- function(x){ exp(x) / (1 + exp(x)) } ele deve funcionar com qualquer valor real de x, mas na verdade ele retorna NaN quando x é 710 ou maior. Gostaria de saber qual é a maneira correta de lidar com esse problema. …

8 r  function  numerics