Não há como capturar uma captura de tela de vetor. No entanto, você pode converter a captura de tela em vetor usando ferramentas como o Image Trace (Illustrator, no menu Window) ou recriar a interface do usuário manualmente.
Como alternativa, se você tiver acesso a um computador (ou tablet) com uma tela retina, as capturas de tela tiradas terão o dobro da resolução e poderão ser ampliadas de forma muito mais limpa. No entanto, eles ainda serão gráficos rasterizados, portanto não serão dimensionados infinitamente.
A razão pela qual fica confusa e por que você não pode tirar uma captura de tela de vetor: As capturas de tela são sempre gráficos rasterizados . O Illustrator é um programa de gráficos vetoriais. Os gráficos de varredura são baseados em pixels; eles são compostos por muitos pixels, cada um com informações de cores. Ao escalar uma imagem rasterizada, você aumenta os pixels, o que resulta em uma aparência pixelizada ou distorcida para a imagem.
Os gráficos vetoriais são essencialmente matemáticos e algumas marcações. Quando você cria uma forma no Illustrator, ela cria uma expressão matemática que representa essa forma. Quando você dimensiona a imagem, ela apenas a redesenha. Ele não fica pixelizado porque a forma é preservada na expressão, não no valor da cor dos pixels.
Ao fazer uma captura de tela, você está literalmente capturando os pixels na tela, então é uma imagem raster ou bitmap, e não um vetor.