Взгляните на классы-контейнеры Intel TBB . В ссылке говорится:
Классы контейнера позволяют нескольким потокам одновременно вызывать определенные методы в одном и том же контейнере.
Херб Саттер опубликовал несколько статей в своей серии статей об эффективном параллелизме в журнале Dr. Dobbs Journal. Две статьи, которые вы, вероятно, захотите прочитать прямо сейчас:
остальная часть серии определенно является тоже стоит прочитать.