É benéfico representar uma rede neural como matriz?

Uma rede neural é um gráfico ponderado direcionado. Estes podem ser representados por uma matriz (esparsa). Fazer isso pode expor algumas propriedades elegantes da rede.

Essa técnica é benéfica para examinar redes neurais?

Para RNAs grandes, algo equivalente a um 'formato de matriz esparsa' é usado na prática.

Em contraste com o que é dito em outra resposta dada, considerar uma RNA como um gráfico na verdade não compra muito, por dois motivos:

1. O algoritmo de retropropagação pode ser útil em termos de operações de matriz. Esta página fornece uma descrição legível e abrangente.

2. Todas as matrizes com valor real podem ser representadas como gráficos, mas o inverso claramente não é o caso. Portanto, embora seja verdade que uma RNA possa ser considerada como um caso especial de uma estrutura de dados de gráficos, tornar essa especialização explícita na forma de matriz é mais eficiente.

Depende do tipo de redes neurais com as quais você está lidando.

Para redes neurais de tamanho médio, a abordagem matricial é uma maneira muito boa de fazer cálculos rápidos e até retropropagação de erros. Pode-se até explorar matrizes esparsas para entender a arquitetura esparsa de algumas redes neurais.

Mas, para redes neurais muito grandes, o uso de cálculos matriciais seria computacionalmente muito intensivo. Portanto, métodos relevantes, como lojas baseadas em gráficos, etc, são usados ​​para eles, dependendo da finalidade e da arquitetura.

A representação matricial é benéfica para a implementação de redes neurais em silício.

Mas, para examinar empiricamente as redes neurais, às vezes é bom visualizar os valores de peso da sinapse como imagens ou vídeos: a exploração de Jason Yosinski de uma rede neural de convolução. A rede parece ter um "filtro" que apenas detecta os ombros. Um pouco como uma fechadura que só se abre quando reconhece o padrão dos ombros.