Gevent monkeypatching нарушает многопроцессорность

Я пытаюсь использовать пул многопроцессорности для запуска группы процессов, каждый из которых будет запускать пул гринлетов gevent. Причина этого в том, что существует большая сетевая активность, но также большая активность ЦП, поэтому для максимизации моей пропускной способности и всех ядер ЦП мне нужно несколько процессов И асинхронное исправление обезьяны gevent. Я использую диспетчер многопроцессорности для создания очереди, к которой процессы будут обращаться, чтобы получить данные для обработки.

Вот упрощенный фрагмент кода:

import multiprocessing

from gevent import monkey
monkey.patch_all(thread=False)

manager = multiprocessing.Manager()
q = manager.Queue()

Вот исключение, которое он создает:

Traceback (most recent call last):
  File "multimonkeytest.py", line 7, in <module>
    q = manager.Queue()
  File "/usr/local/Cellar/python/2.7.2/Frameworks/Python.framework/Versions/2.7/lib/python2.7/multiprocessing/managers.py", line 667, in temp
    token, exp = self._create(typeid, *args, **kwds)
  File "/usr/local/Cellar/python/2.7.2/Frameworks/Python.framework/Versions/2.7/lib/python2.7/multiprocessing/managers.py", line 565, in _create
    conn = self._Client(self._address, authkey=self._authkey)
  File "/usr/local/Cellar/python/2.7.2/Frameworks/Python.framework/Versions/2.7/lib/python2.7/multiprocessing/connection.py", line 175, in Client
    answer_challenge(c, authkey)
  File "/usr/local/Cellar/python/2.7.2/Frameworks/Python.framework/Versions/2.7/lib/python2.7/multiprocessing/connection.py", line 409, in answer_challenge
    message = connection.recv_bytes(256)         # reject large message
 IOError: [Errno 35] Resource temporarily unavailable

Я считаю, что это должно быть из-за некоторой разницы между поведением обычного модуля сокета и модуля сокета gevent.

Если я использую monkeypatch в подпроцессе, очередь создается успешно, но когда подпроцесс пытается получить () из очереди, возникает очень похожее исключение. Сокет действительно нуждается в исправлении из-за выполнения большого количества сетевых запросов в подпроцессах.

Моя версия gevent, которая, как мне кажется, самая последняя:

>>> gevent.version_info
(1, 0, 0, 'alpha', 3)

Есть идеи?

23
задан user964375 30 December 2011 в 10:04
поделиться