Perguntas com a marcação «k-nearest-neighbour»

Eu sou novo no kernels e encontrei um problema ao tentar kernelizar o kNN. Preliminares Estou usando um kernel polinomial: K(x,y)=(1+⟨x,y⟩)dK(x,y)=(1+⟨x,y⟩)dK(\mathbf{x},\mathbf{y}) = (1 + \langle \mathbf{x},\mathbf{y} \rangle)^d O kNN euclidiano típico usa a seguinte métrica de distância: d(x,y)=||x−y||d(x,y)=||x−y||d(\mathbf{x}, \mathbf{y}) = \vert\vert \mathbf{x} - \mathbf{y} \vert\vert Deixe mapear para algum espaço …

12 machine-learning  kernel-trick  k-nearest-neighbour 

Em Elements of Statistical Learning , um problema é introduzido para destacar problemas com k-nn em espaços de alta dimensão. Existem pontos de dados que são distribuídos uniformemente em uma esfera unitária dimensional.NNNppp A distância média da origem ao ponto de dados mais próximo é dada pela expressão: d(p,N)=(1−(12)1N)1pd(p,N)=(1−(12)1N)1pd(p,N) = …

11 self-study  proof  k-nearest-neighbour 

Pelo que entendi, o k-NN é um algoritmo de aprendizado lento e não precisa de uma fase de treinamento. Então, por que precisamos usar .fit()com o sklearn e o que acontece quando o usamos?

11 classification  scikit-learn  k-nearest-neighbour 

De acordo com algum artigo que estou lendo, a distância de Jeffries e Matusita é comumente usada. Mas não consegui encontrar muita informação, exceto a fórmula abaixo JMD (x, y) =∑(xi−−√2−yi−−√2)2−−−−−−−−−−−−−√2∑(xi2−yi2)22\sqrt[2]{\sum(\sqrt[2]{x_i}-\sqrt[2]{y_i})^2} É semelhante à distância euclidiana, exceto pela raiz quadrada E (x, y) =∑(xi−yi)2−−−−−−−−−−√2∑(xi−yi)22\sqrt[2]{\sum(x_i-y_i)^2} A distância JM é reivindicada como …

11 classification  k-nearest-neighbour  euclidean 

Estou lendo o livro de Kevin Murphy: Machine Learning - uma perspectiva probabilística. No primeiro capítulo, o autor está explicando a maldição da dimensionalidade e há uma parte que eu não entendo. Como exemplo, o autor declara: Considere que as entradas são distribuídas uniformemente ao longo de um cubo de …

11 self-study  k-nearest-neighbour  high-dimensional 

Qual é a dimensão VC do algoritmo k-vizinho mais próximo se k for igual ao número de pontos de treinamento usados? Contexto: Essa pergunta foi feita em um curso que eu faço e a resposta dada foi 0. Eu, no entanto, não entendo por que esse é o caso. Minha …

10 machine-learning  self-study  k-nearest-neighbour  vc-dimension 

No aprendizado computacional, o teorema da NFL afirma que não existe um aprendiz universal. Para todo algoritmo de aprendizado, existe uma distribuição que causa ao aluno uma hipotese com um grande erro, com alta probabilidade (embora exista um baixo índice de erro). A conclusão é que, para aprender, a classe …

10 k-nearest-neighbour  consistency 

Eu tenho um conjunto de dados com colunas a b c(3 atributos). aé numérico e contínuo enquanto be csão categóricos, cada um com dois níveis. Eu estou usando o método Vizinhos K-Nearest to classificar ae bon c. Portanto, para poder medir as distâncias, eu transformo meu conjunto de dados removendo …

10 r  classification  k-nearest-neighbour 

O capítulo 2.4 da ESL parece classificar a regressão linear como "baseada em modelo", porque assume , enquanto nenhuma aproximação semelhante é declarada para os vizinhos k-mais próximos. Mas os dois métodos não fazem suposições sobre ?f( x ) ≈ x ⋅ βf(x)≈x⋅βf(x) \approx x\cdot\betaf( X )f(x)f(x) Mais tarde, na …

10 machine-learning  model  k-nearest-neighbour 

Pergunta: Com uma cadeia MCMC de 10 dimensões, digamos que estou preparado para entregar uma matriz dos sorteios: 100.000 iterações (linhas) por 10 parâmetros (colunas), qual a melhor forma de identificar os modos posteriores? Estou especialmente preocupado com vários modos. Fundo:Eu me considero um estatístico computacionalmente experiente, mas quando um …

10 r  bayesian  mcmc  k-nearest-neighbour  mode 

Entendo a premissa do algoritmo kNN para dados espaciais. E sei que posso estender esse algoritmo para ser usado em qualquer variável de dados contínua (ou dados nominais com distância de Hamming). No entanto, quais estratégias são usadas ao lidar com dados dimensionais mais altos? Por exemplo, digamos que eu …

10 machine-learning  k-nearest-neighbour 

Eu sei que há mais de dois tipos de normalização. Por exemplo, 1- Transformação de dados usando um z-score ou t-score. Isso geralmente é chamado de padronização. 2- Reescalonar dados para ter valores entre 0 e 1. A questão agora se eu precisar normalizar Que tipo de normalização de dados …

9 machine-learning  normalization  standardization  k-nearest-neighbour 

Minha pergunta é sobre o classificador de um vizinho mais próximo e é sobre uma afirmação feita no excelente livro The Elements of Statistical Learning, de Hastie, Tibshirani e Friedman. A declaração é (p. 465, seção 13.3): "Como ele usa apenas o ponto de treinamento mais próximo ao ponto de …

9 classification  k-nearest-neighbour 

Eu recebi esta pergunta em um questionário, ele perguntou qual seria o erro de treinamento para um classificador KNN quando K = 1. O que significa treinamento para um classificador KNN? Meu entendimento sobre o classificador KNN era que ele considera todo o conjunto de dados e atribui a qualquer …

8 classification  supervised-learning  k-nearest-neighbour 

Conduzi a Correspondência de Pontuação de Prospensidade (em R, usando o pacote R "Matchit"). Eu usei o método correspondente "vizinho mais próximo". Após a comparação, comparei o tratamento e o grupo de controle em termos da variável de resultado. Para esta comparação, usei o teste t. Descobri que, após cada …

8 k-nearest-neighbour  matching  propensity-scores