Я пытаюсь создать демон Python, который запускает другие полностью независимые процессы.
Общая идея состоит в том, чтобы для данной команды оболочки опрашивать каждые несколько секунд и гарантировать, что выполняется ровно k экземпляров команды. Мы храним каталог pid-файлов, и при опросе мы удаляем pid-файлы, pid-файлы которых больше не работают, и запускаются (и создают pid-файлы для), сколько бы процессов нам ни требовалось, чтобы добраться до k из них.
Дочерние процессы также должны быть полностью независимыми, чтобы в случае смерти родительского процесса дочерние процессы не были убиты. Из того, что я прочитал, кажется, что это невозможно сделать с помощью модуля subprocess
. С этой целью я использовал упомянутый здесь фрагмент:
http://code.activestate.com/recipes/66012-fork-a-daemon-process-on-unix/
Я сделал несколько необходимых изменений ( вы увидите закомментированные строки в прилагаемом фрагменте):
Вот моя команда fn для порождения и тест:
import os
import sys
import subprocess
import time
def spawn(cmd, child_cwd):
"""
do the UNIX double-fork magic, see Stevens' "Advanced
Programming in the UNIX Environment" for details (ISBN 0201563177)
http://www.erlenstar.demon.co.uk/unix/faq_2.html#SEC16
"""
try:
pid = os.fork()
if pid > 0:
# exit first parent
#sys.exit(0) # parent daemon needs to stay alive to launch more in the future
return
except OSError, e:
sys.stderr.write("fork #1 failed: %d (%s)\n" % (e.errno, e.strerror))
sys.exit(1)
# decouple from parent environment
#os.chdir("/") # we want the children processes to
os.setsid()
os.umask(0)
# do second fork
try:
pid = os.fork()
if pid > 0:
# exit from second parent
sys.exit(0)
except OSError, e:
sys.stderr.write("fork #2 failed: %d (%s)\n" % (e.errno, e.strerror))
sys.exit(1)
# redirect standard file descriptors
sys.stdout.flush()
sys.stderr.flush()
si = file('/dev/null', 'r')
so = file('/dev/null', 'a+')
se = file('/dev/null', 'a+', 0)
os.dup2(si.fileno(), sys.stdin.fileno())
os.dup2(so.fileno(), sys.stdout.fileno())
os.dup2(se.fileno(), sys.stderr.fileno())
pid = subprocess.Popen(cmd, cwd=child_cwd, shell=True).pid
# write pidfile
with open('pids/%s.pid' % pid, 'w') as f: f.write(str(pid))
sys.exit(1)
def mkdir_if_none(path):
if not os.access(path, os.R_OK):
os.mkdir(path)
if __name__ == '__main__':
try:
cmd = sys.argv[1]
num = int(sys.argv[2])
except:
print 'Usage: %s ' % __file__
sys.exit(1)
mkdir_if_none('pids')
mkdir_if_none('test_cwd')
for i in xrange(num):
print 'spawning %d...'%i
spawn(cmd, 'test_cwd')
time.sleep(0.01) # give the system some breathing room
В этой ситуации все работает нормально, и дочерние процессы сохраняются, даже если родитель убит. Однако я все еще сталкиваюсь с лимитом появления на исходном родителе.После ~ 650 порождений (не одновременно, дочерние процессы завершились) родительский процесс задыхается с ошибкой:
spawning 650...
fork #2 failed: 35 (Resource temporarily unavailable)
Есть ли способ переписать мою функцию порождения, чтобы я мог порождать эти независимые дочерние процессы бесконечно? Спасибо!