Depois de instalar a versão GPU do Tensorflow, você não tem mais nada para fazer no Keras. Conforme escrito na documentação do Keras , "Se você estiver executando no back-end do TensorFlow, seu código será executado automaticamente na GPU se alguma GPU disponível for detectada".
E se você deseja verificar se a GPU foi detectada corretamente, inicie seu script com:
import tensorflow as tf
sess = tf.Session(config=tf.ConfigProto(log_device_placement=True))
A saída padrão não deve mostrar nenhum erro e imprimir o nome da GPU. Nesse caso, você está pronto para executar o Keras e o Tensorflow no modo GPU.