Respostas:
Veja # 6 aqui: http://blogs.msdn.com/sql_protocols/archive/2006/12/02/understanding-kerberos-and-ntlm-authentication-in-sql-server-connections.aspx
Isso é um pouco mais complicado: http://support.microsoft.com/kb/811889/
Mas eu acho que ou você vai no caminho certo.
p.s. Isso pode ser melhor postado no ServerFault ...