OBSERVAÇÕES: O Inkscape seria um exemplo de editor de gráficos vetoriais, enquanto o GIMP / Photoshop / Paint.NET / etc é adequado para editar imagens raster.
Você já reparou que, ao ampliar uma imagem, a qualidade diminui? Essa é uma imagem raster. Uma imagem raster é como a que sua câmera digital tira. Eles geralmente estão nos formatos JPG (com perdas), GIF (sem perdas), PNG (meu favorito; sem perdas) e muitos outros.
Este é um editor de gráficos de varredura em ação:
Enquanto isso, as imagens vetoriais estão no formato SVG e outras. Suas aplicações geralmente não são para uso diário. (As pessoas comuns não usam gráficos vetoriais.) Você não pode fazer upload de arquivos .svg normalmente e nem todos têm um editor (mesmo que o Inkscape seja gratuito).
Eles são baseados na ideia matemática de vetores:
Os gráficos vetoriais podem fazer mais do que apenas linhas, no entanto. Eles podem desenhar outros "primitivos" como quadrados, círculos, curvas.
Aqui está uma imagem que explica melhor a diferença: http://en.wikipedia.org/wiki/File:VectorBitmapExample.svg
Observe que não foi possível fazer o upload porque estava no formato .svg (vetor). Você pode convertê-lo em uma varredura, no entanto, mas eu estava com preguiça.