De um modo geral, redes neurais e algoritmos genéticos não são usados em jogos e, além do interesse recente em usar redes neurais para aprendizado profundo, também não costumam estar fora dos jogos.
A principal razão pela qual elas são ensinadas na academia de IA não é por causa de sua aplicabilidade prática, mas porque são fáceis de explicar como dispositivos de ensino - ambos têm análogos matemáticos e biológicos que permitem ao aluno entender como eles poderiam funcionar.
No mundo real, você normalmente precisa de confiabilidade e previsibilidade. O problema com os métodos de aprendizagem é que, se eles aprendem "em estado selvagem", podem aprender os padrões errados e não serem confiáveis. Um NN ou um GA pode potencialmente atingir um máximo local que não é garantido como bom o suficiente para fornecer a experiência de jogo necessária, por exemplo. Outras vezes, pode acabar sendo muito bom, encontrando uma estratégia perfeita que é imbatível. Nem é desejável na maioria dos produtos de entretenimento.
Mesmo se você treinar offline (ou seja, antes do lançamento e não durante o jogo), um conjunto de dados aparentemente bonito pode estar escondendo anomalias que, uma vez encontradas por um jogador, são fáceis de explorar. Uma rede neural em particular normalmente desenvolve um conjunto de pesos bastante opaco para estudar, e as decisões tomadas por ela são difíceis de raciocinar. Seria difícil para um designer ajustar essa rotina de IA para executar como desejado.
Mas talvez o problema mais difícil seja o fato de os GAs e os NNs geralmente não serem as melhores ferramentas para qualquer tarefa de desenvolvimento de jogos. Enquanto bons dispositivos de ensino, qualquer pessoa com conhecimento suficiente do domínio da disciplina geralmente está melhor equipada para usar um método diferente para obter resultados semelhantes. Isso pode ser qualquer coisa, desde outras técnicas de IA, como máquinas de vetores de suporte ou árvores de comportamento, até abordagens mais simples, como máquinas de estado, ou mesmo uma longa cadeia de condicionais if-then. Essas abordagens tendem a fazer melhor uso do conhecimento do domínio do desenvolvedor e são mais confiáveis e previsíveis do que os métodos de aprendizado.
No entanto, ouvi dizer que alguns desenvolvedores usaram redes neurais durante o desenvolvimento para treinar um motorista para encontrar uma boa rota em torno de uma pista de corrida e, em seguida, essa rota pode ser enviada como parte do jogo. Observe que o jogo final não requer nenhum código de rede neural para que isso funcione, nem mesmo a rede treinada.
O 'custo' do método não é realmente o problema, aliás. Os NNs e os GAs podem ser implementados de maneira extremamente barata, com o NN, em particular, se prestando ao pré-cálculo e otimização. A questão é realmente a de conseguir algo útil deles.