Программирование для Многоядерных процессоров

Верно. Ваша программа не будет работать быстрее (за исключением того факта, что ядро ​​обрабатывает меньше других процессов, потому что некоторые из процессов выполняются на другом ядре), если вы не используете параллелизм. Однако, если вы используете параллелизм, большее количество ядер улучшает фактический параллелизм (с меньшим количеством ядер параллелизм чередуется, тогда как с большим количеством ядер вы можете получить настоящий параллелизм между потоками).

Создание эффективных параллельных программ - непростая задача. Если все сделано плохо, одновременная работа вашей программы может действительно замедлить ее! Например, если вы тратите много времени на порождение потоков (создание потока происходит очень медленно) и работаете с очень маленьким размером блока (так что накладные расходы на создание потока преобладают над фактической работой), или если вы часто синхронизируете свои данные ( который не только заставляет операции запускаться последовательно, но также имеет очень высокие накладные расходы поверх него), или если вы часто записываете данные в одну и ту же строку кеша между несколькими потоками (что может привести к тому, что вся строка кеша будет недействительной на одном ядер), то вы можете серьезно навредить производительности при параллельном программировании.

Также важно отметить, что если у вас N ядер, это НЕ означает, что вы получите ускорение на N. Это теоретический предел ускорения. На самом деле, может быть, с двумя ядрами он в два раза быстрее, но с четырьмя ядрами он может быть примерно в три раза быстрее, а затем с восемью ядрами он примерно в три с половиной раза быстрее и т. Д. Насколько хорошо ваша программа на самом деле возможность использовать преимущества этих ядер называется параллельной масштабируемостью. Часто накладные расходы на связь и синхронизацию препятствуют линейному ускорению, хотя, в идеале, если вы можете максимально избежать связи и синхронизации, можно надеяться, что вы приблизитесь к линейному.

Было бы невозможно дать исчерпывающий ответ о том, как писать эффективные параллельные программы на StackOverflow. Это действительно предмет как минимум одного (а возможно, нескольких) курсов по информатике. Предлагаю записаться на такой курс или купить книгу. Я бы порекомендовал вам книгу, если бы знал о хорошей, но в курсе алгоритмов параллелизма, который я прошел, не было учебника для этого курса. Вам также может быть интересно написать несколько программ, использующих последовательную реализацию, параллельную реализацию с многопоточностью (обычные потоки, пулы потоков и т. Д.) И параллельную реализацию с передачей сообщений (например, с Hadoop, Apache Spark, Cloud Dataflows. , асинхронные RPC и т. д.), а затем измеряют их производительность, варьируя количество ядер в случае параллельных реализаций. Это была основная часть моей курсовой работы по параллельным алгоритмам, и она может быть весьма полезной.Некоторые вычисления, которые вы можете попробовать распараллелить, включают в себя вычисление Pi с использованием метода Монте-Карло (это тривиально распараллеливание, если предположить, что вы можете создать генератор случайных чисел, в котором случайные числа, сгенерированные в разных потоках, независимы), выполнение умножения матриц, вычисление эшелонированной формы строки матрица, суммирующая квадрат числа 1 ... N для некоторого очень большого числа N, и я уверен, что вы можете подумать о других.