Muitas das respostas aqui foram escritas antes de Roslyn (os compiladores .NET C # e VB de código aberto) migrar para o .NET 4.6. Portanto, eles não o ajudarão se o seu projeto atingir, digamos, 4.5.2 como o meu (herdado e não pode ser alterado).
Mas você pode pegar uma versão anterior do Roslyn em https://www.nuget.org/packages/Microsoft.Net.Compilers e instalá-la em vez da versão mais recente. Eu usei 1.3.2. (Tentei a 2.0.1 - que parece ser a última versão que roda no .NET 4.5 - mas não consegui compilar *.) Execute isso no console do Gerenciador de Pacotes no VS 2013:
PM> Install-Package Microsoft.Net.Compilers -Version 1.3.2
Em seguida, reinicie o Visual Studio. Eu tive alguns problemas inicialmente; você precisa definir a versão do C # de volta ao padrão (o C # 6.0 não aparece na lista de versões, mas parece ter sido o padrão), depois limpar, salvar, reiniciar o VS e recompilar.
Curiosamente, não tive nenhum erro do IntelliSense devido aos recursos do C # 6.0 usados no código (que foram o motivo para desejar o C # 6.0 em primeiro lugar).
* versão 2.0.1 gerou erro A tarefa "Microsoft.CodeAnalysis.BuildTasks.Csc não pôde ser carregada do assembly Microsoft.Build.Tasks.CodeAnalysis.dll. Não foi possível carregar o arquivo ou assembly 'Microsoft.Build.Utilities.Core, Version = 14.0.0.0, Culture = neutral, PublicKeyToken = b03f5f7f11d50a3a 'ou uma de suas dependências. O sistema não consegue encontrar o arquivo especificado. Confirme se a declaração está correta, se o assembly e todas as suas dependências estão disponíveis e se a tarefa contém um arquivo classe pública que implementa Microsoft.Build.Framework.ITask.
ATUALIZAÇÃO Uma coisa que notei desde a publicação desta resposta é que, se você alterar qualquer código durante a depuração ("Editar e continuar"), verá que seu código C # 6.0 aparecerá repentinamente como erros no que parece reverter para um ambiente anterior ao C # 6.0. Isso requer uma reinicialização da sua sessão de depuração. MUITO chato, especialmente para aplicativos da web.