A folha de dados tem sua resposta na seção 24.5.2:
A tensão de referência para o ADC (VREF) indica a faixa de conversão para o ADC. Canais de extremidade única que excederem VREF resultarão em códigos próximos a 0x3FF. O VREF pode ser selecionado como AVCC, referência interna de 1,1V ou pino AREF externo.
Uma referência de tensão em um microcontrolador não é igual a um limite de tensão . A referência de tensão (neste caso) é usada pelo ADC para realizar uma comparação e o microcontrolador parece ter sido projetado para permitir que você exceda esse valor.
Você nunca deseja exceder o limite de tensão (neste caso, seria AVcc, a fonte de alimentação analógica do ADC). Os microcontroladores possuem diodos de proteção embutidos para economizar seu bacon, se isso acontecer, mas de um modo geral, é necessário projetar o circuito externo para que não exceda o limite de tensão. (Essa é uma prática recomendada; em alguns casos, pode haver motivos para ignorá-la.)