Perguntas com a marcação «optimization»

No livro de Nocedal & Wright sobre otimização numérica, há uma declaração na seção 2.2 (página 27): "De um modo geral, é mais fácil preservar a invariância de escala para algoritmos de pesquisa de linha do que para algoritmos de região confiável". Na mesma seção, eles falam sobre ter novas …

11 linear-algebra  optimization  numerical-analysis 

Estou tentando entender como o método de otimização baseado em adjuntos funciona para uma otimização restrita do PDE. Particularmente, estou tentando entender por que o método adjunta é mais eficiente para problemas em que o número de variáveis ​​de design é grande, mas o "número de equações é pequeno". O …

11 optimization  pde 

Dada uma função desconhecida , podemos avaliar seu valor em qualquer ponto de seu domínio, mas não temos sua expressão. Em outras palavras, é como uma caixa preta para nós.f:Rd→Rf:Rd→Rf:\mathbb R^d \to \mathbb Rfff Qual é o nome do problema de encontrar o minimizador de ? Quais são alguns métodos …

11 optimization 

Estou resolvendo para uma enorme matriz definida positiva esparsa A usando o método do gradiente conjugado (CG). É possível calcular o determinante de A usando as informações produzidas durante a resolução?Ax=bAx=bAx=bAAAAAA

11 linear-algebra  optimization  krylov-method  conjugate-gradient 

Dado o sistema onde , li que, caso a iteração Jacobi seja usada como solucionador, o método não convergirá se tiver um valor diferente de zero componente no nulo-espaço de . Então, como alguém poderia formalmente afirmar que, desde que tenha um componente diferente de zero, abrangendo o espaço nulo …

11 linear-algebra  optimization  matrix  iterative-method  linear-solver 

Existe uma maneira mais rápida de calcular erros padrão para problemas de regressão linear do que invertendo ? Aqui presumo que tenhamos regressão:X′XX′XX'X y=Xβ+ε,y=Xβ+ε,y=X\beta+\varepsilon, onde é n × k matriz e y é n × 1 vetor.XXXn×kn×kn\times kyyyn×1n×1n\times 1 Para encontrar a solução do problema dos mínimos quadrados, não é …

11 linear-algebra  optimization 

Para um projeto, tenho que implementar esses dois métodos e comparar o desempenho deles em diferentes funções. Parece que o método do gradiente conjugado se destina a resolver sistemas de equações lineares de Ax=bAx=b A\mathbf{x} = \mathbf{b} Onde AAA é uma matriz n por n simétrica, definida positiva e real. …

11 optimization  conjugate-gradient 

Eu tenho um conjunto de dados que está mudando lentamente e preciso acompanhar os autovetores / autovalores de sua matriz de covariância. Estou usando scipy.linalg.eigh, mas é muito caro e não usa o fato de eu já ter uma decomposição que é apenas um pouco incorreta. Alguém pode sugerir uma …

10 linear-algebra  optimization  python  eigenvalues 

Costumo encontrar o ditado geral de que métodos de pontos interiores são difíceis de aquecer. Existe uma explicação intuitiva por trás desse conselho? Existem situações em que se pode esperar benefícios com o início quente em um método de ponto interior? Alguém pode recomendar algumas referências úteis sobre o assunto?

10 optimization  constrained-optimization 

O problema é maxf(x) subject to Ax=bmaxf(x) subject to Ax=b\max f(\mathbf{x}) \text{ subject to } \mathbf{Ax} = \mathbf{b} onde f(x)=∑Ni=11+x4i(∑Ni=1x2i)2−−−−−−−−−−√f(x)=∑i=1N1+xi4(∑i=1Nxi2)2f(\mathbf{x}) = \sum_{i=1}^N\sqrt{1+\frac{x_i^4}{(\sum_{i=1}^{N}x_i^2)^2}} , x=[x1,x2,...,xN]T∈RN×1x=[x1,x2,...,xN]T∈RN×1\mathbf{x} = [x_1,x_2,...,x_N]^T \in \mathbb{R}^{N\times 1} e A∈RM×NA∈RM×N\mathbf{A} \in \mathbb{R}^{M\times N} Podemos ver que f(.)f(.)f(.) Está na forma de 1+y2−−−−−√1+y2\sqrt{1+y^2} e é uma função convexa. Também pode …

10 optimization 

Estou interessado em maximizar uma função , onde .θ ∈ R pf( θ )f(θ)f(\mathbf \theta)θ ∈ Rpθ∈Rp\theta \in \mathbb R^p O problema é que não conheço a forma analítica da função ou de suas derivadas. A única coisa que posso fazer é avaliar a função ponto a ponto, um valor …

10 optimization  monte-carlo  simulation 

Eu tenho um problema de otimização que se parece com o seguinte minJ, Bst∑eu j| Jeu j|MJ+ B Y= XminJ,B∑Euj|JEuj|stMJ+BY=X \begin{array}{rl} \min_{J,B} & \sum_{ij} |J_{ij}|\\ \textrm{s.t.} & MJ + BY =X \end{array} Aqui, minhas variáveis ​​são as matrizes e B , mas o problema inteiro ainda é um programa linear; …

10 optimization  convex-optimization  linear-programming 

Estou tentando escrever uma implementação SVM completa em Python e tenho alguns problemas ao calcular os coeficientes de Lagrange. Primeiro, deixe-me reformular o que entendo no algoritmo para garantir que estou no caminho certo. Se x1,x2,...,xnx1,x2,...,xnx_1, x_2, ..., x_n é um conjunto de dados e yi∈{−1,1}yi∈{−1,1}y_i \in \{-1, 1\} é …

10 optimization  machine-learning  support-vector-machines  quadratic-programming 

Para otimização, da Wikipedia : Na ciência da computação, a metaheurística designa um método computacional que otimiza um problema, tentando iterativamente melhorar uma solução candidata em relação a uma determinada medida de qualidade. As metaheurísticas fazem poucas ou nenhuma suposição sobre o problema que está sendo otimizado e podem pesquisar …

10 optimization  heuristics 

Eu tenho um problema semelhante em formulação a este post, com algumas diferenças notáveis: Quais métodos simples existem para amostrar adaptativamente uma função 2D? Como nesse post: Eu tenho um e a avaliação dessa função é um pouco cara de calcularf( x , y)f(x,y)f(x,y) Ao contrário desse post: Não estou …

10 optimization  image-processing