Как я могу использовать ЗАВИХРЕНИЕ для открытия нескольких URL одновременно с PHP?

Вот мой текущий код:

    $SQL = mysql_query("SELECT url FROM urls") or die(mysql_error()); //Query the urls table
while($resultSet = mysql_fetch_array($SQL)){ //Put all the urls into one variable

                // Now for some cURL to run it.
            $ch = curl_init($resultSet['url']); //load the urls
            curl_setopt($ch, CURLOPT_TIMEOUT, 2); //No need to wait for it to load. Execute it and go.
            curl_exec($ch); //Execute
            curl_close($ch); //Close it off 
        } //While loop

Я относительно плохо знаком с ЗАВИХРЕНИЕМ. Относительно новым я подразумеваю, что это - мой первый раз с помощью ЗАВИХРЕНИЯ. В настоящее время это загружается один в течение двух секунд, затем загружает следующую за 2 секунды, затем следующее. однако, я хочу заставить его загрузить Всех их одновременно. Я уверен его возможное, я просто не уверен относительно как. Если бы кто-то мог бы указать на меня в правильном направлении, я ценил бы его.

10
задан Alix Axel 20 May 2010 в 15:16
поделиться

1 ответ

Вы настраиваете каждый дескриптор cURL таким же образом, а затем добавляете их в дескриптор curl_multi_ . Обратите внимание на функции curl_multi _ * , функции , описанные здесь . Тем не менее, по моему опыту, возникали проблемы с попыткой загрузить слишком много URL-адресов одновременно (хотя в настоящий момент я не могу найти свои заметки по этому поводу), поэтому в последний раз, когда я использовал curl_mutli_ , я установил он может обрабатывать пакеты по 5 URL-адресов за раз.

edit : Вот сокращенная версия кода, который я использую curl_multi_ :

edit : Немного переписано и много добавленных комментариев, которые, надеюсь, помогут.

// -- create all the individual cURL handles and set their options
$curl_handles = array();
foreach ($urls as $url) {
    $curl_handles[$url] = curl_init();
    curl_setopt($curl_handles[$url], CURLOPT_URL, $url);
    // set other curl options here
}

// -- start going through the cURL handles and running them
$curl_multi_handle = curl_multi_init();

$i = 0; // count where we are in the list so we can break up the runs into smaller blocks
$block = array(); // to accumulate the curl_handles for each group we'll run simultaneously

foreach ($curl_handles as $a_curl_handle) {
    $i++; // increment the position-counter

    // add the handle to the curl_multi_handle and to our tracking "block"
    curl_multi_add_handle($curl_multi_handle, $a_curl_handle);
    $block[] = $a_curl_handle;

    // -- check to see if we've got a "full block" to run or if we're at the end of out list of handles
    if (($i % BLOCK_SIZE == 0) or ($i == count($curl_handles))) {
        // -- run the block

        $running = NULL;
        do {
            // track the previous loop's number of handles still running so we can tell if it changes
            $running_before = $running;

            // run the block or check on the running block and get the number of sites still running in $running
            curl_multi_exec($curl_multi_handle, $running);

            // if the number of sites still running changed, print out a message with the number of sites that are still running.
            if ($running != $running_before) {
                echo("Waiting for $running sites to finish...\n");
            }
        } while ($running > 0);

        // -- once the number still running is 0, curl_multi_ is done, so check the results
        foreach ($block as $handle) {
            // HTTP response code
            $code = curl_getinfo($handle,  CURLINFO_HTTP_CODE);

            // cURL error number
            $curl_errno = curl_errno($handle);

            // cURL error message
            $curl_error = curl_error($handle);

            // output if there was an error
            if ($curl_error) {
                echo("    *** cURL error: ($curl_errno) $curl_error\n");
            }

            // remove the (used) handle from the curl_multi_handle
            curl_multi_remove_handle($curl_multi_handle, $handle);
        }

        // reset the block to empty, since we've run its curl_handles
        $block = array();
    }
}

// close the curl_multi_handle once we're done
curl_multi_close($curl_multi_handle);

Учитывая, что вам не нужно ничего возвращать из URL-адресов, вам, вероятно, не нужно много того, что там есть, но вот как я разбил запросы на блоки BLOCK_SIZE , ждал каждого блок для запуска, прежде чем двигаться дальше, и перехватил ошибки от cURL.

8
ответ дан 4 December 2019 в 02:25
поделиться
Другие вопросы по тегам:

Похожие вопросы: