O Process Explorer da Microsoft seria meu próximo palpite: http://technet.microsoft.com/en-us/sysinternals/bb896653 . Depois de carregá-lo, clique em Exibir -> Exibição do Painel Inferior -> Alças. Agora, quando você clica em cada um dos processos no painel superior, obtém um relatório sobre todos os arquivos e chaves do registro que foram abertos. As teclas são a parte importante.
Ele pode listar muitas informações sobre os processos em execução no momento e, embora eu não saiba ao certo se ele definitivamente informará qual processo tem a webcam aberta, você poderá obter dicas. Eu apenas tentei no OneNote durante a gravação de um vídeo e, no meu Lifecam VX7000, essa chave foi aberta durante a gravação de um vídeo, que é quase certamente a webcam (principalmente porque desapareceu quando parei de gravar):
HKLM\SYSTEM\ControlSet001\Control\DeviceClasses\{65E8773D-8F56-11D0-A3B9-00A0C9223196}\##?#USB#VID_045E&PID_0723&MI_00#8&27B22E96&0&0000#{65e8773d-8f56-11d0-a3b9-00a0c9223196}\#GLOBAL\Device Parameters
Não sei como será o seu dispositivo, mas fique atento a processos com as chaves HKLM \ SYSTEM \ ControlSet001 \ Control \ DeviceClasses \ abertas e procure por palavras-chave como "USB # VID". Pressionar Ctrl + F e procurar a string "USB # VID" deve encontrar processos com essa tecla aberta.
Se você quiser descobrir exatamente como o seu dispositivo USB é chamado de windows, abra o gerenciador de dispositivos, encontre sua webcam, clique duas vezes nela e clique na guia detalhes. Na caixa suspensa dessa página, vá para IDs de hardware ou confira alguns dos outros detalhes nessa caixa suspensa e veja se você pode associá-lo a um processo no Process Explorer.
editar: esqueci de mencionar, esse procedimento só funciona enquanto o processo ainda está usando a webcam (ou seja, a luz ainda está acesa)