Muitas desvantagens. Por padrão, o Windows alocará um pool de memória de 4 GB para cada processo, dividido em 50/50 entre os processos no modo kernel (comuns a todos os aplicativos) e processos no modo usuário (exclusivos para cada aplicativo) (explicação simplificada). Portanto, um aplicativo em execução no sistema possui 2 GB de memória para jogar, enquanto o próprio sistema possui seus próprios 2 GB. Nota importante: este segundo 2 GB é o mesmo 2 GB para todos os aplicativos em execução no sistema.
A opção / 3GB ajusta a divisão para que o modo kernel obtenha 1 GB e o modo usuário obtenha 3 GB.
Agora considere os aplicativos que você está executando. Alguns deles exigirão mais espaço no modo kernel, outros exigirão mais espaço no modo usuário. Como o pool do modo kernel é compartilhado, você pode ficar sem memória rapidamente se estiver executando aplicativos que pressionam a memória do modo kernel. Por outro lado, se seus aplicativos usarem muita memória no modo de usuário, a implementação de / 3GB fornecerá o espaço necessário para eles.
Portanto, é realmente a natureza dos aplicativos que você deseja executar. A regra de ouro é consultar o fornecedor do aplicativo e ler a documentação; em particular, se o fornecedor do aplicativo não tiver uma recomendação, você deve começar a suspeitar ... eles testaram o aplicativo adequadamente ou não? Isso é algo básico que todo fornecedor deve saber.
Há uma discussão muito boa sobre tudo isso aqui: http://blogs.technet.com/askperf/archive/2007/03/23/memory-management-demystifying-3gb.aspx
No seu caso particular, acho que mudar para 64 bits e obter mais RAM será uma solução mais viável, já que o / 3GB não conseguirá o que você deseja (ele funciona no XP?)