Perguntas com a marcação «kernel-trick»

Muitos classificadores de aprendizado de máquina (por exemplo, máquinas de vetores de suporte) permitem especificar um kernel. Qual seria uma maneira intuitiva de explicar o que é um kernel? Um aspecto em que tenho pensado é a distinção entre núcleos lineares e não lineares. Em termos simples, eu poderia falar …

97 machine-learning  svm  references  kernel-trick  intuition 

Ao usar o SVM, precisamos selecionar um kernel. Gostaria de saber como selecionar um kernel. Algum critério na seleção do kernel?

96 machine-learning  svm  kernel-trick 

Estou começando a se envolver com o uso de glmnetcom LASSO Regressão onde meu desfecho de interesse é dicotômica. Criei um pequeno quadro de dados simulado abaixo: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p …

78 r  self-study  lasso  regression  interpretation  anova  statistical-significance  survey  conditional-probability  independence  naive-bayes  graphical-model  r  time-series  forecasting  arima  r  forecasting  exponential-smoothing  bootstrap  outliers  r  regression  poisson-distribution  zero-inflation  genetic-algorithms  machine-learning  feature-selection  cart  categorical-data  interpretation  descriptive-statistics  variance  multivariate-analysis  covariance-matrix  r  data-visualization  generalized-linear-model  binomial  proportion  pca  matlab  svd  time-series  correlation  spss  arima  chi-squared  curve-fitting  text-mining  zipf  probability  categorical-data  distance  group-differences  bhattacharyya  regression  variance  mean  data-visualization  variance  clustering  r  standard-error  association-measure  somers-d  normal-distribution  integral  numerical-integration  bayesian  clustering  python  pymc  nonparametric-bayes  machine-learning  svm  kernel-trick  hyperparameter  poisson-distribution  mean  continuous-data  univariate  missing-data  dag  python  likelihood  dirichlet-distribution  r  anova  hypothesis-testing  statistical-significance  p-value  rating  data-imputation  censoring  threshold 

Existem vários usos distintos: estimativa da densidade do kernel truque do kernel suavização do kernel Por favor, explique o que o "núcleo" neles significa, em inglês simples, com suas próprias palavras.

73 kernel-trick  kernel-smoothing 

Eu estava lendo sobre o kernel PCA ( 1 , 2 , 3 ) com núcleos gaussianos e polinomiais. Como o kernel gaussiano separa aparentemente qualquer tipo de dados não lineares excepcionalmente bem? Por favor, faça uma análise intuitiva, bem como uma análise matematicamente envolvida, se possível. O que é …

67 machine-learning  pca  svm  kernel-trick 

Ao usar a máquina de vetores de suporte, existem diretrizes para escolher o kernel linear versus o não linear, como o RBF? Certa vez, ouvi dizer que o kernel não linear tende a não ter um bom desempenho quando o número de recursos é grande. Há alguma referência sobre esse …

45 machine-learning  classification  svm  references  kernel-trick 

Qual é a intuição por trás do fato de que um SVM com um Kernel Gaussiano possui um espaço infinito de recursos dimensionais?

36 svm  feature-selection  kernel-trick 

Como provar que a função de base radial é um kernel? Tanto quanto eu entendo, para provar isso, temos que provar um dos seguintes:k(x,y)=exp(−||x−y||2)2σ2)k(x,y)=exp⁡(−||x−y||2)2σ2)k(x, y) = \exp(-\frac{||x-y||^2)}{2\sigma^2}) Para qualquer conjunto de vetores matriz = é semidefinido positivo.x1,x2,...,xnx1,x2,...,xnx_1, x_2, ..., x_nK(x1,x2,...,xn)K(x1,x2,...,xn)K(x_1, x_2, ..., x_n)(k(xi,xj))n×n(k(xi,xj))n×n(k(x_i, x_j))_{n \times n} Um mapeamento pode ser …

35 svm  kernel-trick 

Vi pessoas envidando muitos esforços no SVM e no Kernels, e elas parecem bem interessantes como iniciantes no Machine Learning. Mas se esperamos que quase sempre possamos encontrar uma solução com desempenho superior em termos de rede neural (profunda), qual é o significado de tentar outros métodos nesta era? Aqui …

33 machine-learning  svm  kernel-trick  supervised-learning 

Estou usando o SVM para classificação e estou tentando determinar os parâmetros ideais para os núcleos linear e RBF. Para o kernel linear, utilizo a seleção de parâmetros com validação cruzada para determinar C e, para o kernel RBF, uso a pesquisa em grade para determinar C e gama. Eu …

32 classification  svm  kernel-trick 

Estou um pouco confuso com a diferença entre um SVM e um perceptron. Deixe-me tentar resumir minha compreensão aqui e sinta-se à vontade para corrigir onde estou errado e preencher o que perdi. O Perceptron não tenta otimizar a separação "distância". Contanto que encontre um hiperplano que separa os dois …

29 machine-learning  svm  kernel-trick 

Alguém pode me dizer a diferença entre os kernels no SVM: Linear Polinomial Gaussiano (RBF) Sigmoid Porque, como sabemos, o kernel é usado para mapear nosso espaço de entrada no espaço de recursos de alta dimensionalidade. E nesse espaço de recursos, encontramos o limite linearmente separável. Quando eles são usados …

26 machine-learning  svm  pattern-recognition  kernel-trick 

No SVM, o kernel gaussiano é definido como: onde x, y \ em \ mathbb {R ^ n} . Não conheço a equação explícita de \ phi . Eu quero saber.K(x,y)=exp(−∥x−y∥222σ2)=ϕ(x)Tϕ(y)K(x,y)=exp⁡(−‖x−y‖222σ2)=ϕ(x)Tϕ(y)K(x,y)=\exp\left({-\frac{\|x-y\|_2^2}{2\sigma^2}}\right)=\phi(x)^T\phi(y)x,y∈Rnx,y∈Rnx, y\in \mathbb{R^n}ϕϕ\phi Eu também quero saber se ∑iciϕ(xi)=ϕ(∑icixi)∑iciϕ(xi)=ϕ(∑icixi)\sum_ic_i\phi(x_i)=\phi \left(\sum_ic_ix_i \right) onde ci∈Rci∈Rc_i\in \mathbb R . Agora, acho que não …

24 machine-learning  svm  kernel-trick 

Por que as pessoas usam técnicas de programação quadrática (como SMO) ao lidar com SVMs kernelizados? O que há de errado com a descida do gradiente? É impossível usar com kernels ou é muito lento (e por quê?). Aqui está um pouco mais de contexto: tentando entender um pouco melhor …

21 svm  kernel-trick  gradient-descent 

No contexto do aprendizado de máquina e reconhecimento de padrões, existe um conceito chamado Kernel Trick . Enfrentando problemas em que me pedem para determinar se uma função pode ser uma função do kernel ou não, o que exatamente deve ser feito? Devo primeiro verificar se eles têm a forma …

21 machine-learning  kernel-trick