É difícil limitar o acesso a um site pelo navegador, porque não existe uma maneira 100% infalível de fazê-lo.
Seu primeiro problema é a falsificação de agente de usuário. Os navegadores podem se identificar com qualquer agente de usuário que desejarem. Todos os navegadores com extensões parecem ter um que torna isso trivial. Se alguém com o IE6 ou o IE7 mudar seu agente de usuário para o IE8 ou Firefox, eles entrarão em um site.
Você pode usar o JavaScript para solucionar esse problema usando a detecção de recursos . Basicamente, você usa o JavaScript para fazer um teste simples: verifica se existe alguma funcionalidade que não existe no IE6 ou IE7. Se não, você sabe que são eles. O problema é que, se eles desativam o JavaScript, ignoram isso facilmente.
Uma abordagem de várias camadas seria detectar o navegador do lado do servidor usando seu user agent, de preferência no Apache ou IIS, e redirecionar esses usuários para uma página informando que você não oferece suporte ao navegador. BTW, isso é mais educado do que simplesmente ocultar o site. Eu aumentaria isso com o método de detecção de recurso JavaScript. Entre os dois, você encontrará todos, exceto os usuários tecnicamente mais experientes, e as chances são de que eles não estejam usando o IE6 ou IE7 de qualquer maneira.