Como calcular efetivamente um kernel gaussiano em numpy [closed]

Eu tenho uma matriz numpy com m colunas en linhas, as colunas sendo dimensões e os pontos de dados de linhas.

Agora preciso calcular os valores do kernel para cada combinação de pontos de dados.

Para uma linear do kernel $K(\mathbf{x}_i,\mathbf{x}_j) = \langle \mathbf{x}_i,\mathbf{x}_j \rangle$ eu posso simplesmente fazerdot(X,X.T)

$K(\mathbf{x}_i,\mathbf{x}_j) = \exp{-\frac{\|\mathbf{x}_i-\mathbf{x}_j\|_2^2}{s^2}}$

Penso que o principal problema é obter as distâncias aos pares de forma eficiente. Depois de ter que o resto é elemento sábio.

Para fazer isso, você provavelmente deseja usar o scipy. A função scipy.spatial.distance.pdistfaz o que você precisa e scipy.spatial.distance.squareformpossivelmente facilitará sua vida.

Então, se você quiser a matriz do kernel, faça

from scipy.spatial.distance import pdist, squareform
  # this is an NxD matrix, where N is number of items and D its dimensionalites
X = loaddata() 
pairwise_dists = squareform(pdist(X, 'euclidean'))
K = scip.exp(-pairwise_dists ** 2 / s ** 2)

A documentação pode ser encontrada aqui . 

Como um pequeno adendo à resposta de bayerj, a pdistfunção de scipy pode calcular diretamente as normas euclidianas ao quadrado, chamando-a de pdist(X, 'sqeuclidean'). O código completo pode ser escrito de forma mais eficiente como

from scipy.spatial.distance import pdist, squareform
  # this is an NxD matrix, where N is number of items and D its dimensionalites
X = loaddata() 
pairwise_sq_dists = squareform(pdist(X, 'sqeuclidean'))
K = scip.exp(-pairwise_sq_dists / s**2)

Você também pode escrever um formulário quadrado à mão:

import numpy as np
def vectorized_RBF_kernel(X, sigma):
    # % This is equivalent to computing the kernel on every pair of examples
    X2 = np.sum(np.multiply(X, X), 1) # sum colums of the matrix
    K0 = X2 + X2.T - 2 * X * X.T
    K = np.power(np.exp(-1.0 / sigma**2), K0)
    return K

PS, mas isso funciona 30% mais lento

def my_kernel(X,Y):
    K = np.zeros((X.shape[0],Y.shape[0]))
    for i,x in enumerate(X):
        for j,y in enumerate(Y):
            K[i,j] = np.exp(-1*np.linalg.norm(x-y)**2)
    return K

clf=SVR(kernel=my_kernel)

que é igual a

clf=SVR(kernel="rbf",gamma=1)

Você pode calcular efetivamente o RBF a partir do código acima, observe que o valor gama é 1, pois é uma constante as s solicitadas também são a mesma constante.

Eu acho que isso ajudará:

def GaussianKernel(v1, v2, sigma):
    return exp(-norm(v1-v2, 2)**2/(2.*sigma**2))