Проблема, портирующая приложение OpenGL на Windows

Существует ответ json, содержащий HTML. Кажется, что-то блокирует запросы в случайных точках во всей версии цикла всех результатов в конце

Одностраничная версия, где вы меняете значение current_page на соответствующий номер страницы.

import requests
import pandas as pd
from bs4 import BeautifulSoup as bs

url = 'https://www.seethroughny.net/tools/required/reports/payroll?action=get'
headers = {

  'Accept' : 'application/json, text/javascript, */*; q=0.01' ,
  'Content-Type' : 'application/x-www-form-urlencoded; charset=UTF-8',
  'User-Agent' : 'Mozilla/5.0',
'Referer' : 'https://www.seethroughny.net/payrolls/110681'
}

data = {

  'PayYear[]' : '2018',
  'BranchName[]' : 'Villages',
 'SortBy' : 'YTDPay DESC',
 'current_page' : '0',
 'result_id' : '110687408',
 'url' : '/tools/required/reports/payroll?action=get',
 'nav_request' : '0'  

}

r = requests.post(url,  headers = headers, data = data).json()
soup = bs(r['html'], 'lxml')

results = []

for item in soup.select('tr:nth-child(odd)'):
    row = [subItem.text for subItem in item.select('td')][1:]
    results.append(row)

df = pd.DataFrame(results)
df.to_csv(r'C:\Users\User\Desktop\Data.csv', sep=',', encoding='utf-8-sig',index = False )

Версия для всех страниц (в процессе выполнения, поскольку текущий запрос может не вернуть json в разных точках цикла, несмотря на задержку). Кажется, улучшилось благодаря предложению @ sim об обмене пользовательскими агентами.

import requests
import pandas as pd
from bs4 import BeautifulSoup as bs
import time
from requests.packages.urllib3.util.retry import Retry
from requests.adapters import HTTPAdapter
import random


ua = ['Mozilla/5.0',
      'Mozilla/5.0 (Windows NT 6.1; WOW64; Trident/7.0; rv:11.0) like Gecko',
      'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.90 Safari/537.36',
      'Mozilla/5.0 (Windows NT 5.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/46.0.2490.71 Safari/537.36',
      'Mozilla/5.0 (Windows NT 6.1; Trident/7.0; rv:11.0) like Gecko'
      'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36'
   ]


url = 'https://www.seethroughny.net/tools/required/reports/payroll?action=get'
headers = {

  'Accept' : 'application/json, text/javascript, */*; q=0.01' ,
  'Content-Type' : 'application/x-www-form-urlencoded; charset=UTF-8',
  'User-Agent' : 'Mozilla/5.0',
'Referer' : 'https://www.seethroughny.net/payrolls/110681'
}

data = {

  'PayYear[]' : '2018',
  'BranchName[]' : 'Villages',
 'SortBy' : 'YTDPay DESC',
 'current_page' : '0',
 'result_id' : '110687408',
 'url' : '/tools/required/reports/payroll?action=get',
 'nav_request' : '0'  

}

results = []
i = 0
with requests.Session() as s:
    retries = Retry(total=5,
                backoff_factor=0.1,
                status_forcelist=[ 500, 502, 503, 504 ])

    s.mount('http://', HTTPAdapter(max_retries=retries))

    while len(results) < 1000: #total:
        data['current_page'] = i
        data['result_id'] = str(int(data['result_id']) + i)

        try:
            r = s.post(url, headers = headers, data = data).json()
        except Exception as e:
            print(e)
            time.sleep(2)
            headers['User-Agent'] =  random.choice(ua)
            r = s.post(url, headers = headers, data = data).json()
            continue
        soup = bs(r['html'], 'lxml')

        for item in soup.select('tr:nth-child(odd)'):
            row = [subItem.text for subItem in item.select('td')][1:]
            results.append(row)
        i+=1

@ Версия Сима:

import requests
import pandas as pd
from bs4 import BeautifulSoup
from fake_useragent import UserAgent

url = 'https://www.seethroughny.net/tools/required/reports/payroll?action=get'

headers = {
    'User-Agent' : 'Mozilla/5.0',
    'Referer' : 'https://www.seethroughny.net/payrolls/110681'
}

data = {
    'PayYear[]' : '2018',
    'BranchName[]' : 'Villages',
    'SortBy' : 'YTDPay DESC',
    'current_page' : '0',
    'result_id' : '110687408',
    'url' : '/tools/required/reports/payroll?action=get',
    'nav_request' : '0'  
}

results = []

i = 0

def get_content(i):
    while len(results) < 15908:
        print(len(results))
        data['current_page'] = i
        headers['User-Agent'] = ua.random
        try:
            r = requests.post(url, headers = headers, data = data).json()
        except Exception:
            time.sleep(1)
            get_content(i)

        soup = BeautifulSoup(r['html'], 'lxml')

        for item in soup.select('tr:nth-child(odd)'):
            row = [subItem.text for subItem in item.select('td')][1:]
            results.append(row)
        i+=1

if __name__ == '__main__':
    ua = UserAgent()
    get_content(i)
6
задан Frank Krueger 24 March 2009 в 21:23
поделиться

3 ответа

#defines комментируются в заголовочном файле каждый раз, когда они были бы иначе повторены. Взгляд на строку 1054 из gl.h:

/* vertex_array */
#define GL_VERTEX_ARRAY                   0x8074

Если этот #define на самом деле отсутствует затем, необходимо, вероятно, заменить файл новой копией.

При рассмотрении документации для glGenBuffers, Вы будете видеть, что это только доступно в OpenGL 1.5 и выше. Заголовочный файл для Windows только идет с OpenGL 1.2, и необходимо использовать механизм расширения для доступа к более новой функциональности. Если Вы называете wglGetProcAddress с именем функции, например.

void (__stdcall *glGenBuffers)(GLsizei,GLuint*) =
    wglGetProcAddress("glGenBuffers");

затем у Вас есть указатель на функцию.

6
ответ дан 8 December 2019 в 13:49
поделиться

Вы могли бы дать GLEW выстрел:

http://glew.sourceforge.net/

Я вполне уверен, я использовал его в некоторое время в прошлом и делаю этот вид вещи немного легче и более портативным.

8
ответ дан 8 December 2019 в 13:49
поделиться

Казалось бы, что буферные функции только доступны в Windows как дополнительные методы.

OpenGL обеспечивает glext.h, который объявляет указатели на все эти функции. Это затем до моего приложения для использования wglGetProcAddress для получения указателей на функции.

Например:

PFNGLGENBUFFERSPROC myglBindBuffers = 
    (PFNGLGENBUFFERSPROC)wglGetProcAddress("glGenBuffersARB");

К счастью я только должен сделать это приблизительно для 4 функций. К сожалению, я теперь должен добавить зависимый от платформы код к своему приложению.

2
ответ дан 8 December 2019 в 13:49
поделиться
Другие вопросы по тегам:

Похожие вопросы: