Estou usando esta biblioteca para implementar um agente de aprendizado.
Eu gerei os casos de treinamento, mas não sei ao certo quais são os conjuntos de validação e teste.
O professor diz:
70% devem ser casos de trem, 10% serão casos de teste e os demais 20% devem ser casos de validação.
editar
Eu tenho esse código para treinamento, mas não tenho idéia de quando parar o treinamento.
def train(self, train, validation, N=0.3, M=0.1):
# N: learning rate
# M: momentum factor
accuracy = list()
while(True):
error = 0.0
for p in train:
input, target = p
self.update(input)
error = error + self.backPropagate(target, N, M)
print "validation"
total = 0
for p in validation:
input, target = p
output = self.update(input)
total += sum([abs(target - output) for target, output in zip(target, output)]) #calculates sum of absolute diference between target and output
accuracy.append(total)
print min(accuracy)
print sum(accuracy[-5:])/5
#if i % 100 == 0:
print 'error %-14f' % error
if ? < ?:
break
editar
Posso obter um erro médio de 0,2 com dados de validação, depois de talvez 20 iterações de treinamento, que devem ser 80%?
erro médio = soma da diferença absoluta entre o destino e a saída da validação, considerando a entrada / tamanho dos dados de validação.
1
avg error 0.520395
validation
0.246937882684
2
avg error 0.272367
validation
0.228832420879
3
avg error 0.249578
validation
0.216253590304
...
22
avg error 0.227753
validation
0.200239244714
23
avg error 0.227905
validation
0.199875013416