Como passo uma string no subprocess.Popen (usando o argumento stdin)?

Se eu fizer o seguinte:

import subprocess
from cStringIO import StringIO
subprocess.Popen(['grep','f'],stdout=subprocess.PIPE,stdin=StringIO('one\ntwo\nthree\nfour\nfive\nsix\n')).communicate()[0]

Eu recebo:

Traceback (most recent call last):
  File "<stdin>", line 1, in ?
  File "/build/toolchain/mac32/python-2.4.3/lib/python2.4/subprocess.py", line 533, in __init__
    (p2cread, p2cwrite,
  File "/build/toolchain/mac32/python-2.4.3/lib/python2.4/subprocess.py", line 830, in _get_handles
    p2cread = stdin.fileno()
AttributeError: 'cStringIO.StringI' object has no attribute 'fileno'

Aparentemente, um objeto cStringIO.StringIO não fica quack perto o suficiente de um arquivo duck para se adequar ao subprocesso.Popen. Como faço para resolver isso?

Popen.communicate() documentação:

Observe que se você deseja enviar dados para o stdin do processo, é necessário criar o objeto Popen com stdin = PIPE. Da mesma forma, para obter algo diferente de None na tupla de resultado, você também deve fornecer stdout = PIPE e / ou stderr = PIPE.

Substituindo os.popen *

    pipe = os.popen(cmd, 'w', bufsize)
    # ==>
    pipe = Popen(cmd, shell=True, bufsize=bufsize, stdin=PIPE).stdin

Aviso Use communic () em vez de stdin.write (), stdout.read () ou stderr.read () para evitar bloqueios devido a qualquer um dos outros buffers de pipe do sistema operacional enchendo e bloqueando o processo filho.

Portanto, seu exemplo pode ser escrito da seguinte maneira:

from subprocess import Popen, PIPE, STDOUT

p = Popen(['grep', 'f'], stdout=PIPE, stdin=PIPE, stderr=STDOUT)    
grep_stdout = p.communicate(input=b'one\ntwo\nthree\nfour\nfive\nsix\n')[0]
print(grep_stdout.decode())
# -> four
# -> five
# ->

Na versão atual do Python 3, você pode usar subprocess.runpara passar a entrada como uma string para um comando externo e obter seu status de saída e sua saída como uma string de volta em uma chamada:

#!/usr/bin/env python3
from subprocess import run, PIPE

p = run(['grep', 'f'], stdout=PIPE,
        input='one\ntwo\nthree\nfour\nfive\nsix\n', encoding='ascii')
print(p.returncode)
# -> 0
print(p.stdout)
# -> four
# -> five
# -> 

Eu descobri esta solução alternativa:

>>> p = subprocess.Popen(['grep','f'],stdout=subprocess.PIPE,stdin=subprocess.PIPE)
>>> p.stdin.write(b'one\ntwo\nthree\nfour\nfive\nsix\n') #expects a bytes type object
>>> p.communicate()[0]
'four\nfive\n'
>>> p.stdin.close()

Existe um melhor?

Estou um pouco surpreso que ninguém tenha sugerido a criação de um pipe, que é, na minha opinião, a maneira mais simples de passar uma string para o stdin de um subprocesso:

read, write = os.pipe()
os.write(write, "stdin input here")
os.close(write)

subprocess.check_call(['your-command'], stdin=read)

Existe uma solução bonita se você estiver usando o Python 3.4 ou melhor. Use o inputargumento em vez do stdinargumento, que aceita um argumento de bytes:

output = subprocess.check_output(
    ["sed", "s/foo/bar/"],
    input=b"foo",
)

Isso funciona para check_outpute run, mas não callou check_callpor algum motivo.

Estou usando python3 e descobri que você precisa codificar sua string antes de poder passá-la para o stdin:

p = Popen(['grep', 'f'], stdout=PIPE, stdin=PIPE, stderr=PIPE)
out, err = p.communicate(input='one\ntwo\nthree\nfour\nfive\nsix\n'.encode())
print(out)

Aparentemente, um objeto cStringIO.StringIO não é quack perto o suficiente de um arquivo duck para se adequar ao subprocesso.

Receio que não. O canal é um conceito de SO de baixo nível, portanto, requer absolutamente um objeto de arquivo representado por um descritor de arquivo no nível de SO. Sua solução alternativa é a correta.

from subprocess import Popen, PIPE
from tempfile import SpooledTemporaryFile as tempfile
f = tempfile()
f.write('one\ntwo\nthree\nfour\nfive\nsix\n')
f.seek(0)
print Popen(['/bin/grep','f'],stdout=PIPE,stdin=f).stdout.read()
f.close()

Cuidado que Popen.communicate(input=s)pode causar problemas se sfor muito grande, porque aparentemente o processo pai o armazenará em buffer antes de bifurcar o subprocesso filho, o que significa que ele precisa "duas vezes mais" de memória usada naquele momento (pelo menos de acordo com a explicação "por baixo do capô" e documentação vinculada encontrada aqui ). No meu caso em particular, shavia um gerador que foi expandido completamente e somente depois gravado para stdinque o processo pai fosse imenso logo antes do nascimento da criança e não restasse memória para bifurcar:

File "/opt/local/stow/python-2.7.2/lib/python2.7/subprocess.py", line 1130, in _execute_child self.pid = os.fork() OSError: [Errno 12] Cannot allocate memory

"""
Ex: Dialog (2-way) with a Popen()
"""

p = subprocess.Popen('Your Command Here',
                 stdout=subprocess.PIPE,
                 stderr=subprocess.STDOUT,
                 stdin=PIPE,
                 shell=True,
                 bufsize=0)
p.stdin.write('START\n')
out = p.stdout.readline()
while out:
  line = out
  line = line.rstrip("\n")

  if "WHATEVER1" in line:
      pr = 1
      p.stdin.write('DO 1\n')
      out = p.stdout.readline()
      continue

  if "WHATEVER2" in line:
      pr = 2
      p.stdin.write('DO 2\n')
      out = p.stdout.readline()
      continue
"""
..........
"""

out = p.stdout.readline()

p.wait()

p = Popen(['grep', 'f'], stdout=PIPE, stdin=PIPE, stderr=STDOUT)    
p.stdin.write('one\n')
time.sleep(0.5)
p.stdin.write('two\n')
time.sleep(0.5)
p.stdin.write('three\n')
time.sleep(0.5)
testresult = p.communicate()[0]
time.sleep(0.5)
print(testresult)

No Python 3.7+, faça o seguinte:

my_data = "whatever you want\nshould match this f"
subprocess.run(["grep", "f"], text=True, input=my_data)

e você provavelmente desejará adicionar capture_output=Truepara obter a saída da execução do comando como uma string.

Nas versões mais antigas do Python, substitua text=Truepor universal_newlines=True:

subprocess.run(["grep", "f"], universal_newlines=True, input=my_data)