Como a descida do gradiente de minibatch atualiza os pesos para cada exemplo em um lote?

Se processarmos, digamos, 10 exemplos em um lote, entendo que podemos somar a perda para cada exemplo, mas como a retropropagação funciona em relação à atualização dos pesos para cada exemplo?

Por exemplo:

• Exemplo 1 -> perda = 2
• Exemplo 2 -> perda = -2

Isso resulta em uma perda média de 0 (E = 0), então como isso atualizaria cada peso e convergiria? É simplesmente pela aleatorização dos lotes que "esperamos" convergir mais cedo ou mais tarde? Além disso, isso não calcula apenas o gradiente para o primeiro conjunto de pesos do último exemplo processado?

A descida de gradiente não funciona da maneira que você sugeriu, mas um problema semelhante pode ocorrer.

Não calculamos a perda média do lote, calculamos os gradientes médios da função de perda. Os gradientes são a derivada da perda em relação ao peso e, em uma rede neural, o gradiente para um peso depende das entradas desse exemplo específico e também de muitos outros pesos no modelo.

Se o seu modelo tiver 5 pesos e você tiver um tamanho de minilote 2, poderá obter o seguinte:

$\text{gradients}=(1.5,-2.0,1.1,0.4,-0.9)$

$\text{gradients}=(1.2,2.3,-1.1,-0.8,-0.7)$

$(1.35,0.15,0,-0.2,-0.8)$

$0$

editar em resposta aos comentários:

$k$$L_i$$w_j$

$\frac{\partial L}{\partial w_j} = \frac{1}{k} \sum_{i=1}^{k} \frac{\partial L_i}{\partial w_j}$

O código do tutorial ao qual você vinculou nos comentários usa o Tensorflow para minimizar a perda média.

$\frac{1}{k} \sum_{i=1}^{k} L_i$

Para minimizar isso, ele calcula os gradientes da perda média em relação a cada peso e usa a descida do gradiente para atualizar os pesos:

$\frac{\partial L}{\partial w_j} = \frac{\partial }{\partial w_j} \frac{1}{k} \sum_{i=1}^{k} L_i$

A diferenciação pode ser trazida para dentro da soma, portanto é a mesma que a expressão da abordagem no meu exemplo.

$\frac{\partial }{\partial w_j} \frac{1}{k} \sum_{i=1}^{k} L_i = \frac{1}{k} \sum_{i=1}^{k} \frac{\partial L_i}{\partial w_j}$

O motivo para usar mini-lotes é ter uma boa quantidade de exemplo de treinamento, de modo que o possível ruído seja reduzido pela média de seus efeitos, mas também não é um lote completo que, para muitos conjuntos de dados, possa exigir uma quantidade enorme de memória. Um fato importante é que o erro que você avalia é sempre distanteentre a saída prevista e a saída real: isso significa que não pode ser negativo; portanto, você não pode ter, como disse, um erro de 2 e -2 que se cancelam, mas que se tornaria um erro de 4 Em seguida, você avalia o gradiente do erro em relação a todos os pesos, para poder calcular qual alteração nos pesos os reduziria mais. Depois de fazer isso, você dá um "passo" nessa direção, com base na magnitude da sua taxa de aprendizado alfa. (Esses são os conceitos básicos, não entrarei em detalhes sobre a retropropagação para NNs profundos). Depois de executar este treinamento em seu conjunto de dados por um certo número de épocas, você pode esperar que sua rede convergir se sua etapa de aprendizado não for muito grande para faça divergir. Você ainda pode acabar no mínimo local, isso pode ser evitado inicializando diferentes pesos, usando otimizadores diferentes e tentando regularizar.