Perguntas com a marcação «online»

Qual é a diferença entre aprendizado offline e online ? É apenas uma questão de aprender sobre todo o conjunto de dados (offline) versus aprender de forma incremental (uma instância de cada vez)? Quais são os exemplos de algoritmos usados ​​em ambos?

38 machine-learning  online 

Um artigo "Computando com precisão a variação de execução" em http://www.johndcook.com/standard_deviation.html mostra como calcular a média de execução, a variação e os desvios padrão. Existem algoritmos nos quais os parâmetros de um modelo de regressão linear ou logística podem ser similarmente "atualizados dinamicamente" à medida que cada novo registro de …

32 regression  logistic  online 

Ultimamente, tenho trabalhado com grandes conjuntos de dados e encontrei muitos documentos sobre métodos de streaming. Para nomear alguns: Líder seguidor-regularizado e descida espelhada: teoremas de equivalência e regularização L1 ( http://jmlr.org/proceedings/papers/v15/mcmahan11b/mcmahan11b.pdf ) Aprendizado em fluxo contínuo: SVMs de uma passagem ( http://www.umiacs.umd.edu/~hal/docs/daume09onepass.pdf ) Pegasos: Primal estimado sub-GrAdient SOlver para …

25 machine-learning  references  large-data  online 

Eu tenho uma matriz de nnn valores reais, que tem média μoldμold\mu_{old} e desvio padrão σoldσold\sigma_{old} . Se um elemento da matriz xixix_i for substituído por outro elemento xjxjx_j , a nova média será μnew=μold+xj−xinμnew=μold+xj−xin\mu_{new}=\mu_{old}+\frac{x_j-x_i}{n} A vantagem dessa abordagem é que ela requer computação constante, independentemente do valor de nnn …

16 standard-deviation  online 

Eu tenho um pequeno problema que está me deixando em pânico. Eu tenho que escrever o procedimento para um processo de aquisição on-line de uma série temporal multivariada. A cada intervalo de tempo (por exemplo, 1 segundo), recebo uma nova amostra, que é basicamente um vetor de ponto flutuante do …

16 algorithms  quantiles  online  large-data 

Atualmente, leio o artigo Efficient Online e Batch Learning usando a divisão forward-backward de John Duchi e Yoram Singer. Estou muito confuso sobre o uso dos termos 'Online' e 'Lote'. Pensei 'Online' significa que atualizamos os parâmetros de peso após o processamento de uma unidade dos dados de treinamento. Em …

16 machine-learning  online  gradient-descent 

Pergunta Geral Digamos que temos dados iid x1x1x_1 , , ... entrando. Queremos calcular recursivamente a estimativa de probabilidade máxima de . Ou seja, tendo calculado observamos um novo x_n e desejamos atualizar de alguma forma incremental nossa estimativa \ hat {\ boldsymbol {\ theta}} _ {n-1}, \, x_n \ …

15 maximum-likelihood  online 

Existem fórmulas on-line conhecidas para calcular médias móveis exponencialmente ponderadas e desvios padrão de um processo (xn)n=0,1,2,…(x_n)_{n=0,1,2,\dots} . Para a média, μn=(1−α)μn−1+αxn\mu_n = (1-\alpha) \mu_{n-1} + \alpha x_n e pela variação σ2n=(1−α)σ2n−1+α(xn−μn−1)(xn−μn)\sigma_n^2 = (1-\alpha) \sigma_{n-1}^2 + \alpha(x_n - \mu_{n-1})(x_n - \mu_n) a partir do qual você pode calcular o desvio …

15 moments  online  kurtosis 

Digamos que eu tenha um classificador de regressão logística. No aprendizado em lote normal, eu teria um termo regularizador para evitar o excesso de ajustes e manter meus pesos pequenos. Eu também normalizava e dimensionava meus recursos. Em um ambiente de aprendizado on-line, estou recebendo um fluxo contínuo de dados. …

15 machine-learning  normalization  regularization  online 

Eu estava usando o termo "Caso Heywood" de maneira informal para me referir a situações em que uma estimativa on-line e 'resposta finita' atualizada iterativamente da variação se tornou negativa devido a problemas de precisão numérica. (Estou usando uma variante do método de Welford para adicionar dados e remover dados …

15 variance  factor-analysis  definition  online 

Preciso calcular quartis (Q1, mediana e Q3) em tempo real em um grande conjunto de dados sem armazenar as observações. Tentei pela primeira vez o algoritmo do quadrado P (Jain / Chlamtac), mas não estava satisfeito com ele (um pouco de uso da CPU e não estava convencido pela precisão, …

13 quantiles  median  online 

Alguém pode me apontar na direção de um algoritmo online (recursivo) para a regularização de Tikhonov (mínimos quadrados regularizados)? Em uma configuração offline, eu calcularia β^=(XTX+λI)−1XTYβ^=(XTX+λI)−1XTY\hat\beta=(X^TX+λI)^{−1}X^TY usando meu conjunto de dados original, onde λλλ é encontrado usando a validação cruzada n vezes. Um novo valor de yyy pode ser previsto …

12 regression  machine-learning  least-squares  regularization  online 

Isso foi inspirado pela regressão linear online eficiente , que achei muito interessante. Existem textos ou recursos dedicados à computação estatística em larga escala, pelos quais a computação com conjuntos de dados grandes demais para caber na memória principal e talvez variada demais para subamostrar com eficácia. Por exemplo, é …

12 online  computing  references 

Ultimamente, tenho tentado aprender mais sobre o aprendizado on-line (é absolutamente fascinante!), E um tema que não consegui entender é como pensar na seleção de modelos em contextos offline versus online. Especificamente, suponha que treinar um classificador off-line, com base em um conjunto de dados fixo . Estimamos suas características …

11 machine-learning  model-selection  online 

Eu quero implementar uma regressão de processo gaussiana incremental usando uma janela deslizante sobre os pontos de dados que chegam um por um através de um fluxo. Deixe denotam a dimensionalidade do espaço de entrada. Portanto, todo ponto de dados possui um número d de elementos.dddxixix_iddd Seja nnn o tamanho …

11 regression  covariance  gaussian-process  linear-algebra  online