Я пытаюсь использовать пул многопроцессорности для запуска группы процессов, каждый из которых будет запускать пул гринлетов gevent. Причина этого в том, что существует большая сетевая активность, но также большая активность ЦП, поэтому для максимизации моей пропускной способности и всех ядер ЦП мне нужно несколько процессов И асинхронное исправление обезьяны gevent. Я использую диспетчер многопроцессорности для создания очереди, к которой процессы будут обращаться, чтобы получить данные для обработки.
Вот упрощенный фрагмент кода:
import multiprocessing
from gevent import monkey
monkey.patch_all(thread=False)
manager = multiprocessing.Manager()
q = manager.Queue()
Вот исключение, которое он создает:
Traceback (most recent call last):
File "multimonkeytest.py", line 7, in <module>
q = manager.Queue()
File "/usr/local/Cellar/python/2.7.2/Frameworks/Python.framework/Versions/2.7/lib/python2.7/multiprocessing/managers.py", line 667, in temp
token, exp = self._create(typeid, *args, **kwds)
File "/usr/local/Cellar/python/2.7.2/Frameworks/Python.framework/Versions/2.7/lib/python2.7/multiprocessing/managers.py", line 565, in _create
conn = self._Client(self._address, authkey=self._authkey)
File "/usr/local/Cellar/python/2.7.2/Frameworks/Python.framework/Versions/2.7/lib/python2.7/multiprocessing/connection.py", line 175, in Client
answer_challenge(c, authkey)
File "/usr/local/Cellar/python/2.7.2/Frameworks/Python.framework/Versions/2.7/lib/python2.7/multiprocessing/connection.py", line 409, in answer_challenge
message = connection.recv_bytes(256) # reject large message
IOError: [Errno 35] Resource temporarily unavailable
Я считаю, что это должно быть из-за некоторой разницы между поведением обычного модуля сокета и модуля сокета gevent.
Если я использую monkeypatch в подпроцессе, очередь создается успешно, но когда подпроцесс пытается получить () из очереди, возникает очень похожее исключение. Сокет действительно нуждается в исправлении из-за выполнения большого количества сетевых запросов в подпроцессах.
Моя версия gevent, которая, как мне кажется, самая последняя:
>>> gevent.version_info
(1, 0, 0, 'alpha', 3)
Есть идеи?