Perguntas com a marcação «neural-networks»

Eu queria começar a experimentar redes neurais e, como um problema de brinquedo, queria treinar um para conversar, ou seja, implementar um bot de bate-papo como o cleverbot. Não é tão inteligente assim. Procurei alguma documentação e encontrei muitos tutoriais sobre tarefas gerais, mas poucos sobre esse tópico específico. O …

10 neural-networks  chat-bots  recurrent-neural-networks  lstm 

Existem várias funções de ativação, como ReLU, sigmoid ou tanhtanh\tanh . O que acontece quando eu misturo funções de ativação? Recentemente, descobri que o Google desenvolveu a função de ativação Swish, que é (x * sigmoid). Ao alterar a função de ativação, ele pode aumentar a precisão de um pequeno …

10 neural-networks  machine-learning  activation-function  relu  sigmoid 

Portanto, atualmente as funções de ativação mais usadas são as Re-Lus. Então eu respondi a esta pergunta Qual é o objetivo de uma função de ativação nas redes neurais? e enquanto escrevia a resposta, como exatamente a função não linear aproximada de Re-Lu pode? Por pura definição matemática, com certeza, …

10 neural-networks  machine-learning 

é possível fazer uma estimativa geral sobre o tamanho das redes neurais treináveis ​​em GPUs comuns para consumidores ? Por exemplo: O artigo Emergence of Locomotion (Reforcement) treina uma rede usando a ativação tanh dos neurônios. Eles têm um NN de 3 camadas com 300.200.100 unidades para o Planar Walker …

9 neural-networks 

Atualmente, estou desenvolvendo um projeto para criar uma IA para jogar o jogo Gomoku (é como um jogo da velha, mas joguei em um tabuleiro de 15 * 15 e requer 5 em sequência para vencer). Eu já implementei com sucesso uma IA do jogo da velha perfeita usando Q …

9 neural-networks  machine-learning  genetic-algorithms  combinatorial-games 

Eu estava lendo o novo artigo de Hinton, "Roteamento dinâmico entre cápsulas", e não entendi o termo "vetor de atividade" no resumo. Uma cápsula é um grupo de neurônios cujo vetor de atividade representa os parâmetros de instanciação de um tipo específico de entidade, como um objeto ou parte do …

9 neural-networks 

Vários recursos que mencionei mencionam que o MSE é ótimo porque é convexo. Mas não entendo como, especialmente no contexto de redes neurais. Digamos que temos o seguinte: XXX : conjunto de dados de treinamento YYY : metas ΘΘ\Theta : o conjunto de parâmetros do modelofΘfΘf_\Theta (um modelo de rede …

9 neural-networks  math  backpropagation  gradient-descent 

Eu gostaria de fazer algumas experiências com a evolução da rede neural (NEAT). Eu escrevi alguns códigos GA e da rede neural em C ++ nos anos 90 apenas para brincar, mas a abordagem DIY provou ser trabalhosa o suficiente para que eu a abandonasse. As coisas mudaram muito desde …

9 neural-networks  genetic-algorithms  neat 

Quão poderosa é a máquina que venceu recentemente o campeão dos jogadores de poker?

9 neural-networks  machine-learning 

Eu li que redes neurais profundas podem ser facilmente enganadas ( link ) para dar alta confiança no reconhecimento de imagens sintéticas / artificiais que estão completamente (ou pelo menos principalmente) fora do assunto de confiança. Pessoalmente, eu realmente não vejo um grande problema com o DNN dando alta confiança …

9 neural-networks  deep-network  image-recognition  convolutional-neural-networks  signal-processing 

Então, eu tenho tentado entender as redes neurais desde que me deparei com o blog de Adam Geitgey sobre aprendizado de máquina. Eu li o máximo que posso sobre o assunto (que eu posso entender) e acredito que entendo todos os conceitos amplos e alguns dos trabalhos (apesar de serem …

9 neural-networks  machine-learning 

O DeepMind afirma que sua rede Q profunda (DQN) conseguiu adaptar continuamente seu comportamento enquanto aprendia a jogar 49 jogos da Atari. Depois de aprender todos os jogos com a mesma rede neural, o agente foi capaz de jogá-los todos nos níveis 'sobre-humanos' simultaneamente (sempre que foi apresentado aleatoriamente com …

9 neural-networks  deep-learning  deepmind 

Eu tenho mexido no playground tensorflow . Um dos conjuntos de dados de entrada é uma espiral. Quaisquer que sejam os parâmetros de entrada que eu escolher, não importa quão ampla e profunda seja a rede neural que eu crie, não consigo encaixar na espiral. Como os cientistas de dados …

9 neural-networks  classification  tensorflow 

Quão grandes redes neurais artificiais podemos rodar agora (com ciclo de treinamento completo ou apenas avaliando as saídas da rede) se nosso orçamento total de energia para computação for equivalente ao orçamento de energia do cérebro humano ( 12,6 watts )? Vamos assumir um ciclo por segundo, que parece corresponder …

9 neural-networks  human-like 

Podemos ler na página da Wikipedia que o Google construiu um chip ASIC personalizado para aprendizado de máquina e personalizado para o TensorFlow, que ajuda a acelerar a IA. Como os chips ASIC são especialmente personalizados para um uso específico, sem a capacidade de alterar seu circuito, deve haver algum …

9 neural-networks  machine-learning  hardware  neuromorphic-engineering