Os temas quentes de hoje podem ser as cinzas frias e úmidas de amanhã. Por exemplo, a velocidade de convergência das abordagens CNN e LSTM, especialmente em combinação, desviou uma atenção considerável dos projetos básicos da RNN.
Da mesma forma, os temas frios de hoje podem ser as brasas ardentes de amanhã. Obviamente, alguns dos tópicos frios permanecerão frios. O ponto ideal pode ser identificar aqueles que estão esquentando e provavelmente são blocos sustentáveis de tecnologia futura.
Redes de Atenção Residual
As redes de atenção residual, como as redes LSTM, são uma melhoria em relação às RNNs usando uma abordagem diferente. Como as redes de atenção são projetadas para economizar recursos, elas convergem mais rapidamente ou com menos demanda por hardware e rede para oferecer suporte à execução paralela.
Desenvolvimento automatizado de modelos não cartesianos
A pesquisa na automação da modelagem é essencial para muitos aplicativos de IA. Alguns dos algoritmos em desenvolvimento não extraem simplesmente tensores de recursos (matrizes, matrizes, cubos e hipercubos), mas desenvolvem modelos de gráficos, direcionados ou associativos, com ou sem ciclos permitidos.
- Sistema hierárquico de mapas auto-organizados para classificação de ação
Z Gharaee, P Gärdenfors, M Johnsson, ICAART, 2017
- Modelagem de tempo de execução para aplicativos ciber-físico-humanos inteligentes centrados no usuário , Lorena Castañeda Bueno, 2017
- Sondando as propriedades topológicas de redes complexas modelando textos escritos curtos , Diego R. Amancio, 2015
- Resumo de esquema na seleção de recursos baseados em dados vinculados para sistemas de recomendação , Azzurra Ragone et. al., 2017
Topologias de sinais compatíveis com os equilíbrios
Muitos ignoram a importância dos GANs, não porque eles podem fazer coisas interessantes com as imagens, mas porque eles se desviam da topologia simples do caminho do sinal, onde a convergência em um conjunto treinado de parâmetros é alcançada através de uma matriz unidimensional de camadas e blocos de camadas.
Os componentes discriminativos e generativos no design da GAN são descritos com mais detalhes em outra pergunta do AI Stack Exchange sobre * Noções básicas sobre o GAN Loss FUnction . Embora a geração de imagens da abordagem GAN e seus filhos conceituais demonstrem uma nova capacidade no espaço artificial da rede, a amplitude desse significado de várias redes pode não ser imediatamente óbvia. Não é uma pilha com profundidade de camadas, mas uma pilha de duas redes profundas em uma topologia de figura oito, conceitualmente como uma faixa de Möbius.
Essa topologia cria um equilíbrio entre duas redes, a gerativa (G) e a discriminativa (D). Seu designer chamou isso de uma relação contraditória porque G e D desempenham papéis opostos. No entanto, sua ação no sistema é realmente colaborativa, criando um equilíbrio que se assemelha a um equilíbrio químico ou simbiose em biologia, para que um objetivo específico seja alcançado. Isso pode revelar a direção mais promissora da IA atualmente.
Projetando topologias de sinal que suportam formas adicionais de colaboração e simbiose entre redes, em que cada rede é um componente que aprende seu roll em conjunto com outras redes de componentes, para que o sistema agregado aprenda sua função possa sintetizar formas de inteligência artificial que os DNNs não podem.
Sistemas baseados em regras e redes profundas são unidimensionais em termos de fluxo de sinal. Por si só, nunca podem se aproximar das características mais notáveis do cérebro humano.
Processamento paralelo usando GPUs como DSPs
As implementações VLSI de redes de spikes são importantes e agora existem implementações como https://github.com/Hananel-Hazan/bindsnet que utilizam a aceleração de hardware da GPU para investigá-las sem o acesso aos chips VLSI desenvolvidos por grandes empresas.
Reconhecimento e síntese de fala para TTS de ponta a ponta
O recente surgimento da excelência em síntese usando sistemas como o WaveNet do Google abriu as portas para aplicativos TTS (texto para som) mais precisos, de modo que provavelmente é um bom momento para se tornar um especialista em gravação de voz para uso em exemplos de treinamento, mas um momento ruim para iniciar uma casa de produção de fala personalizada usando alto-falantes ao vivo.
Veículos Automatizados
Os veículos automatizados de vários tipos precisam de especialistas em física de veículos, fabricação automotiva, aeronáutica e produtos de consumo para uma ampla gama de tipos de veículos, com fortes incentivos econômicos e de segurança para a semi-automação e a automação total.
- Mars landers
- Drones de consumo
- Drones industriais
- Drones militares
- Avião de passageiros
- Automóveis de passageiros
- Limusines
- Trens
- Cadeiras de rodas
- Veículos de entrega
- Distribuição automatizada de alimentos
- Robôs de reparo de usinas nucleares
- Robôs de reparo de distribuição elétrica
Sumário
Pode ser difícil descobrir antecipadamente o que as tecnologias quentes na IA permanecerão dominantes em cinco anos ou quais das tecnologias de aquecimento estarão em alta, mas as tecnologias acima são sólidas, mostrando promessas antecipadas significativas e para as quais existem grandes negócios, demandas industriais e de consumo.