Algoritmos de aprendizado de máquina baseados em "minimização estrutural de riscos"?

Quais algoritmos de aprendizado de máquina (além dos SVM) usam o princípio de minimização de risco estrutural ?

reference-request machine-learning

— Classifire
fonte

O que é um algo?

— Dave Clarke

algo = algoritmo;)

— Classifire

por favor, use palavras completas.

— Kaveh

ok..just fez não quero fazer o título demasiado longo

— Classifire

Tanto quanto posso dizer, o SRM nada mais é do que uma boa regularização antiga , que é usada absolutamente em todo lugar.

— Emre 23/05

O princípio de minimização de risco estrutural é um princípio que é pelo menos parcialmente 'usado' em todos os métodos de aprendizado de máquina, uma vez que o sobreajuste deve ser levado em consideração: reduzir a complexidade do modelo é (supostamente e na prática) uma boa maneira de limitar sobreajuste.

Os SVMs possuem explicitamente um parâmetro para a complexidade (a dimensão do espaço de recurso ou até a função do kernel) e é necessário porque aumentar a complexidade faz parte do algoritmo de aprendizado.
As redes neuronais também têm um indicador fácil de sua complexidade (número de 'células') e fazem parte do algoritmo de aprendizado associado.
Sem esse princípio, a inferência gramatical seria estúpida e a gramática perfeita é a lista de todas as palavras possíveis; portanto, todo algoritmo não trivial ao menos reconhece esse princípio.
As árvores de decisão têm sua própria noção de entropia .
Os clusters podem ser simplesmente contados ou usar o princípio intrinsecamente ou ter um número fixo de clusters e, nesse caso, você aplica o princípio em um nível superior.

Para ser perfeitamente honesto, eu realmente não sei o que acontece na programação genética, mas eles não têm uma noção intrínseca de complexidade.

Não conheço bem a programação lógica indutiva, mas não parece muito bem dimensionada para esse princípio.

— jmad
fonte

Você conhece algum algoritmo de aprendizado que seja ainda mais poderoso e menos propenso a sobreajuste do que o SVM? Ou talvez uma técnica para melhorar o SVM padrão?

— Classifire

@ user2278 se por 'poderoso' que quer dizer 'eficiente', em seguida, SVMs são bastante grande e há um monte de pesquisas sobre o assunto e ferramentas de usá-lo. Mas é claro, isso depende do seu problema.

— Jmad

Bem, eu gostaria de usar o SVM nos mercados financeiros, e na verdade existem alguns trabalhos dedicados a esse tópico (usando o SVM para previsão de ações, etc ...). Existe um algoritmo que seria mais adequado para esse fim (especialmente porque as séries temporais financeiras são tão "barulhentas")?

— Classifire

@ user2278 É melhor você usar os papéis. Eu não sou especialista. (Eu não ficaria surpreso SVMs são os melhores para que também eles se comportam bem wrt ruído..)

— Jmad