Для JIT-компилятора было бы возможно использовать GPU для определенных операций негласно?
Не стесняйтесь исправлять меня, если какая-либо часть моего понимания является неправильной.
Мое понимание - то, что GPU предлагают подмножество инструкций, что нормальный ЦП обеспечивает, но выполняет их намного быстрее.
Я знаю, что существуют способы использовать циклы GPU для неграфической цели, но она походит (в теории) на язык, это Как раз вовремя компилируется, мог обнаружить присутствие подходящего GPU и разгрузить часть работы к GPU негласно без изменения кода.
Действительно ли мое понимание наивно? Это - просто вопрос, он является действительно сложным и просто не был сделан он?
2 ответа
Насколько я понимаю, графические процессоры предлагают подмножество инструкций, которые нормальный ЦП предоставляет, но выполняет их намного быстрее.
Это определенно не так просто. Графический процессор предназначен в основном для обработки SIMD / векторной графики. Таким образом, даже несмотря на то, что теоретический потенциал графических процессоров в настоящее время значительно превосходит процессоры, только программы, которые могут извлечь выгоду из инструкций SIMD, могут эффективно выполняться на графическом процессоре. Кроме того, конечно, существует потеря производительности, когда данные должны быть переданы от CPU к GPU для обработки там.
Таким образом, для того, чтобы JIT-компилятор мог эффективно использовать графический процессор, он должен уметь обнаруживать код, который можно распараллелить, чтобы извлечь выгоду из инструкций SIMD, а затем должен определять, вызваны ли накладные расходы, вызванные передачей данных из ЦП в GPU будет меньше из-за улучшений производительности.
Можно использовать графический процессор (например, с поддержкой CUDA или OpenCL) для ускорения самого JIT. Как распределение регистров, так и планирование инструкций могут быть эффективно реализованы.