Eu tenho o Keras instalado com o back-end Tensorflow e CUDA. Às vezes, eu gostaria de forçar Keras a usar a CPU. Isso pode ser feito sem dizer instalar um Tensorflow separado apenas de CPU em um ambiente virtual? Se sim, como? Se o backend fosse Theano, os sinalizadores poderiam ser definidos, mas eu não ouvi falar dos sinalizadores do Tensorflow acessíveis via Keras.
Respostas:
Se você quiser forçar Keras a usar CPU
import os
os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID" # see issue #152
os.environ["CUDA_VISIBLE_DEVICES"] = ""antes de importar o Keras / Tensorflow.
Execute seu script como
$ CUDA_VISIBLE_DEVICES="" ./your_keras_code.pyVeja também
CUDA_DEVICE_ORDER=PCI_BUS_IDna edição nº 152
import os os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID" # see issue #152 os.environ["CUDA_VISIBLE_DEVICES"] = "" , agora como faço para "desfazer" isso? Gostaria que Keras usasse a GPU novamente.
Uma maneira bastante separável de fazer isso é usar
import tensorflow as tf
from keras import backend as K
num_cores = 4
if GPU:
num_GPU = 1
num_CPU = 1
if CPU:
num_CPU = 1
num_GPU = 0
config = tf.ConfigProto(intra_op_parallelism_threads=num_cores,
inter_op_parallelism_threads=num_cores,
allow_soft_placement=True,
device_count = {'CPU' : num_CPU,
'GPU' : num_GPU}
)
session = tf.Session(config=config)
K.set_session(session)Aqui, com booleans GPUe CPU, indicamos se gostaríamos de executar nosso código com a GPU ou CPU, definindo rigidamente o número de GPUs e CPUs que a sessão do Tensorflow pode acessar. As variáveis num_GPUe num_CPUdefinem este valor. num_coresem seguida, define o número de núcleos de CPU disponíveis para uso via intra_op_parallelism_threadse inter_op_parallelism_threads.
A intra_op_parallelism_threadsvariável determina o número de threads que uma operação paralela em um único nó no gráfico de computação pode usar (intra). Enquanto a inter_ops_parallelism_threadsvariável define o número de threads acessíveis para operações paralelas entre os nós do gráfico de computação (inter).
allow_soft_placement permite que as operações sejam executadas na CPU se qualquer um dos seguintes critérios forem atendidos:
não há implementação de GPU para a operação
não há dispositivos GPU conhecidos ou registrados
há uma necessidade de co-localizar com outras entradas da CPU
Tudo isso é executado no construtor da minha classe antes de qualquer outra operação e é completamente separável de qualquer modelo ou outro código que eu uso.
Nota: Isso requer tensorflow-gpue cuda/ cudnndeve ser instalado porque a opção é fornecida para usar uma GPU.
Refs:
allow_soft_placement, intra_op_parallelism_threads,inter_op_parallelism_threads
inter/ intra_op_parallelism_threadsreferem-se a operações de CPU ou GPU?
Isso funcionou para mim (win10), coloque antes de importar keras:
import os
os.environ['CUDA_VISIBLE_DEVICES'] = '-1'Basta importar tensortflow e usar keras, é muito fácil.
import tensorflow as tf
# your code here
with tf.device('/gpu:0'):
model.fit(X, y, epochs=20, batch_size=128, callbacks=callbacks_list)tf.device('/cpu:0'), ainda posso ver a memória sendo alocada para o python posteriormente com nvidia-smi.
with?
De acordo com o tutorial do keras , você pode simplesmente usar o mesmo tf.deviceescopo do tensorflow regular:
with tf.device('/gpu:0'):
x = tf.placeholder(tf.float32, shape=(None, 20, 64))
y = LSTM(32)(x) # all ops in the LSTM layer will live on GPU:0
with tf.device('/cpu:0'):
x = tf.placeholder(tf.float32, shape=(None, 20, 64))
y = LSTM(32)(x) # all ops in the LSTM layer will live on CPU:0withpode ser qualquer código Keras.
os.environ['CUDA_VISIBLE_DEVICES'] = '-1'como na resposta abaixo