Quanto de um problema é ruído branco para o uso no mundo real de um DNN?

Eu li que redes neurais profundas podem ser facilmente enganadas ( link ) para dar alta confiança no reconhecimento de imagens sintéticas / artificiais que estão completamente (ou pelo menos principalmente) fora do assunto de confiança.

Pessoalmente, eu realmente não vejo um grande problema com o DNN dando alta confiança a essas imagens sintéticas / artificiais, mas acho que dar alta confiança ao ruído branco ( link ) pode ser um problema, pois esse é um fenômeno verdadeiramente natural que a câmera pode ver no mundo real.

Quanto de um problema é ruído branco para o uso no mundo real de um DNN? Esses falsos positivos podem ser detectados a partir de ruídos comuns, de alguma forma?

O ruído branco que engana os DNNs não é realmente um ruído branco. Foi alterado da mesma maneira que as imagens sintéticas classificadas incorretamente. Você precisa alterar muitos pixels de entrada exatamente dessa maneira, para que essas pequenas alterações não sejam perceptíveis, mas propagadas pela rede resultam em erros de classificação. Isso não vai acontecer por acaso.