Perguntas com a marcação «optimization»

Eu estava lendo sobre otimização para um problema mal colocado na visão por computador e me deparei com a explicação abaixo sobre otimização na Wikipedia. O que eu não entendo é: por que eles chamam essa otimização de " minimização de energia " no Computer Vision? Um problema de otimização …

14 machine-learning  optimization  computer-vision 

Eu sei que o k-means geralmente é otimizado usando a Maximização de Expectativas . No entanto, podemos otimizar sua função de perda da mesma maneira que otimizamos qualquer outra! Encontrei alguns trabalhos que realmente usam descida gradiente estocástica para médias k em larga escala, mas não consegui responder à minha …

14 optimization  k-means  expectation-maximization  loss-functions 

Eu já ouvi a seguinte expressão antes: "Otimização é a raiz de todo mal nas estatísticas". Por exemplo, a resposta principal neste tópico faz essa afirmação em referência ao perigo de otimizar de forma muito agressiva durante a seleção do modelo. Minha primeira pergunta é a seguinte: Essa citação é …

14 cross-validation  optimization  overfitting 

Alguma recomendação para a escolha de uma biblioteca de otimização restrita adequada para a minha função de otimização? Estou minimizando ai) a função não linear com restrições lineares de igualdade e desigualdade e ii) tenho disponível o gradiente e o hessiano da função. Se ajudar, a função que estou minimizando …

14 r  optimization  software 

Meu objetivo é classificar os sinais dos sensores. O conceito da minha solução até agora é: i) Recursos de engenharia a partir do sinal bruto ii) Seleção de recursos relevantes com o ReliefF e uma abordagem de clustering iii) Aplicação de NN, floresta aleatória e SVM No entanto, estou preso …

14 feature-selection  hyperparameter  optimization 

O objetivo do artigo era otimizar alguns parâmetros, maximizando a probabilidade logarítmica regularizada. Então eles calculam derivadas parciais. E os autores mencionam que otimizam a equação usando L-BFGS, um procedimento quase-Newton padrão para otimizar funções suaves de muitas variáveis ​​(sem mais detalhes). Como funciona ?

14 algorithms  optimization 

Normalmente, em regressão logística, ajustamos um modelo e obtemos algumas previsões sobre o conjunto de treinamento. Em seguida, validamos cruzadamente essas previsões de treinamento (algo como aqui ) e decidimos o valor do limite ideal com base em algo como a curva ROC. Por que não incorporamos a validação cruzada …

13 logistic  cross-validation  optimization  roc  threshold 

Eu queria saber quanto do aprendizado de máquina requer otimização. Pelo que ouvi, estatísticas é um tópico matemático importante para pessoas que trabalham com aprendizado de máquina. Da mesma forma, qual é a importância de alguém que trabalha com aprendizado de máquina para aprender sobre otimização convexa ou não convexa?

13 machine-learning  optimization 

Objetivo Confirme se o entendimento da KKT está correto ou não. Procure mais explicações e confirmações na KKT. fundo Tentando entender as condições KKT, especialmente a complementar, que sempre aparece do nada nos artigos SVM. Não preciso de uma lista de fórmulas abstratas, mas de uma explicação concreta, intuitiva e …

13 svm  optimization  lagrange-multipliers 

Estou trabalhando em um projeto para filtragem colaborativa (CF), ou seja, concluindo uma matriz parcialmente observada ou, mais geralmente, tensor. Eu sou um novato em campo e, para este projeto, eventualmente, tenho que comparar nosso método com outros conhecidos que, atualmente, os métodos propostos são comparados com eles, ou seja, …

13 optimization  recommender-system  matrix-decomposition 

Um amigo meu vende modelos de liquidificadores. Alguns dos liquidificadores são muito simples e baratos, outros são muito sofisticados e mais caros. Seus dados consistem, para cada mês, nos preços de cada liquidificador (que são fixados por ele) e no número de unidades vendidas para cada modelo. Para estabelecer alguma …

13 optimization 

Uma das motivações para a rede elástica foi a seguinte limitação do LASSO: No caso p>np>np > n , o laço seleciona no máximo n variáveis ​​antes de saturar, devido à natureza do problema de otimização convexa. Esse parece ser um recurso limitante para um método de seleção de variáveis. …

13 regression  optimization  feature-selection  lasso 

Existem alternativas rápidas para o algoritmo EM para aprender modelos com variáveis ​​latentes (especialmente pLSA)? Eu estou bem em sacrificar a precisão em favor da velocidade.

13 machine-learning  optimization  expectation-maximization  lsa 

O classificador Naive Bayes é o classificador que atribui itens a uma classe base na maximização do posterior para associação à classe e assume que os recursos dos itens são independentes.CxxxCCCP(C|x)P(C|x)P(C|x) A perda de 0-1 é a perda que atribui a qualquer classificação incorreta uma perda de "1" e uma …

13 machine-learning  bayesian  optimization  naive-bayes  loss-functions 

Recentemente, li um artigo de Yann Dauphin et al. Identificando e atacando o problema do ponto de sela na otimização não convexa de alta dimensão , onde eles introduzem um interessante algoritmo de descida chamado Saddle-Free Newton , que parece ser exatamente adaptado para otimização de rede neural e não …

13 optimization  deep-learning  gradient-descent