Eu usei essa técnica antes (na camada 4, não na 2, mas ela ainda é válida), e encontrei várias vantagens e desvantagens em fazer isso. O que eles estão falando especificamente é de uma ilha de plano de terra que não é GND, mas AGND, que está ligada a GND em um único ponto, possivelmente por uma pequena impedância. Não tenho certeza se o ATMEL tem um pino AGND separado, mas nosso dsPIC tinha. Nesse caso, não há conexão, mas um indutor entre o VCC e o AVCC, e o desvio nunca deve passar do VCC para o AGND ou do AVCC para o GND. Todos os sinais analógicos são referenciados ao AGND (ou seja, divisores de volt, tampas anti-aliasing, etc.). O objetivo é impedir que todos os circuitos digitais que causam ruído sujem seus trilhos analógicos.
No que diz respeito à implementação de sua técnica, eles estão apenas dizendo que as extensões desta ilha AGND abrangeriam aproximadamente esse canto do micro, bem como todos os desvios entre AVCC e AGND e seus circuitos de medição analógicos. Ele não precisa se estender até as portas de entrada para medições de tensão, etc., mas pelo menos ao resistor do lado inferior do seu divisor de voltagem e tampa de antialiasing, bem como a qualquer amplificador de entrada analógica e suas fontes de alimentação. Pelo AVCC, estou me referindo ao VCC após ser filtrado pelo indutor.
Experimentamos diferentes impedâncias que conectavam GND e AGND e descobrimos que um resistor de 10 ohm funcionava bem para isolar o ruído no terra digital. Se a impedância for muito alta, o micro não ficará satisfeito, pois espera o mesmo potencial DC nos dois motivos. No nosso caso, tínhamos um LDO de baixo ruído e alimentação separada para o AVDD e um conversor buck de alta potência e barulhento alimentando os diversos dispositivos no VDD digital. O isolamento que você obteria (para impedir que o material digital barulhento poluísse seus trilhos analógicos) é menor com apenas um indutor e uma ilha de terra separada, conforme sugere esta folha de dados, mas é muito mais simples de implementar.
Um teste simples para verificar se você está melhorando o ruído do trilho analógico é usar o ADC para converter um valor DC e plotar as medições brutas em um histograma ou executar um stdev no Excel. Em um mundo perfeito / sem ruídos, você não teria variação nessa medida, mas no mundo real você tem uma certa variação proporcional aos seus níveis de ruído.