Quais são as boas referências para entender o aprendizado on-line?

Especificamente, estou pedindo recursos para aprender sobre sistemas de aprendizado de máquina que podem atualizar suas respectivas redes de crenças (ou equivalente) durante a operação. Eu já encontrei alguns, embora não os tenha marcado como favorito.

Como você pode imaginar, é um tópico bastante desafiador para pesquisar na internet.

A maioria dos algoritmos de aprendizado on-line vem de pelo menos uma dessas linhagens:

• o perceptron

  Os perceptrons de última geração são o algoritmo passivo-agressivo , o perceptron estruturado e suas muitas variedades.

• O winnow

  O winnow foi reformulado como métodos de gradiente exponenciados e também pode ser aplicado a problemas estruturados . Existem também variedades que lidam diretamente com a regularização de L1 (para garantir a escassez), como o SMIDAS .

• Descida do gradiente estocástico

  A descida do gradiente estocástico é quando você aplica a otimização online a um possível problema em lote. Os algoritmos de última geração são o LaSVM , o Pegasos , de Leon Bottou , e muitos algoritmos de rede neural podem ser facilmente treinados nesse cenário. Veja o tutorial do theano para muitos exemplos. Talvez o EM on-line se encaixe aqui.

• filtragem de partículas

  Isso também é conhecido como inferência rao-blackwellized e permite atualizar um modelo gráfico / probabilístico à medida que mais dados chegam. Alguns bons exemplos são modelos de tópicos on-line e o tutorial do NIPS no SMC .

Também existem alguns problemas mais amplos com o aprendizado on-line , como conversão on-line para lote , técnicas de orçamento para aprendizado on-line com kernels (como este artigo , este artigo e este artigo ), muitos tipos diferentes de limites de generalização, preocupações com a escassez (e também artigo SMIDAS que citei acima), hash para economizar memória e muitos outros problemas.

Avrim Blum como um excelente artigo de pesquisa que eu recomendaria começar com: "Algoritmos online no aprendizado de máquina" http://www.cs.cmu.edu/~avrim/Papers/survey.ps

Se você está procurando informações sobre a teoria por trás do aprendizado on-line, o livro de Cesa-Bianchi e Lugosi é uma referência sólida.

Há um bom tutorial do ICML 2008, de Yoram Singer e Shai Shalev Shwartz, sobre a teoria e a prática do aprendizado on-line.

Aprendizado de máquina - Materiais do curso - Stanford http://www.stanford.edu/class/cs229/materials.html

Palestras em vídeo sobre aprendizado de máquina e inteligência artificial http://freescienceonline.blogspot.com/2007/07/machine-learning-and-artificial.html

Processos gaussianos para aprendizado de máquina http://www.gaussianprocess.org/gpml/