Estou surpreso que ninguém tenha mencionado WebGL e estruturas construídas sobre ele. Eu o consideraria no topo da lista de estado da arte para gráficos 3D acelerados por GPU e animações complexas em canvas / javascript HTML.
WebGL é uma plataforma cruzada, padrão da web livre de royalties para uma API de gráficos 3D de baixo nível baseada em OpenGL ES 2.0, exposta por meio do elemento HTML5 Canvas como interfaces de Document Object Model. ...
O WebGL traz 3D sem plug-in para a web, implementado diretamente no navegador. Os principais fornecedores de navegadores Apple (Safari), Google (Chrome), Mozilla (Firefox) e Opera (Opera) são membros do Grupo de Trabalho WebGL.
WebGL é muito sólido em seu suporte para gráficos acelerados por GPU. Confira essas demonstrações de shader GLSL . :-) E veja o ChemDoodle como um exemplo de interação do usuário.
Estou trabalhando em um aplicativo usando a estrutura O3D do Google , que gerencia o gráfico de cena e usa WebGL para renderização (costumava usar seu próprio plug-in). O3D é um trabalho em andamento e sua documentação não está totalmente atualizada, mas está em desenvolvimento ativo e há algumas boas demos por aí . O 3D Pool pode ser o seu destino. Os desenvolvedores do Google respondem muito bem às perguntas do grupo de discussão.
Existem várias outras estruturas construídas em WebGL; veja aqui . Os que mencionam o desenvolvimento de jogos e gráficos de cena incluem Copperlicht, SceneJS, X3DOM.
O WebGL é executado em compilações de desenvolvimento recentes de vários navegadores , mas não no IE. Tenho usado Firefox ("Minefield") e Chromium com bons resultados. Você precisará de um desses para executar as demos acima.
No entanto, se seus requisitos são que ele não deve ter dependências além do HTML 5 canvas / js, WebGL pode não ser a escolha certa. Não parece que o IE irá suportá-lo tão cedo.
Atualização: depois de oferecer muita resistência, a MS decidiu oferecer suporte ao WebGL no IE 11 .