Как выполнить итерации по набору STL и выборочно удалить элементы?

Попробуйте:

for(std::set<Color>::iterator it = myColorContainer.begin(); 
    it != myColorContainer.end();) { // note missing it++
     if( (*it) == Yellow ) {
        DoSomeProcessing(*it);
        myColorContainer.erase(it++); // post increment (original sent to erase)
     }
     else {
       ++it; // more efficient than it++;
     }
}

for (std::set<Color>::iterator i = myColorContainer.begin();
            i!=myColorContainer.end(); /* No i++ */)
{
    if ( *i  == Yellow)
    {
        DoSomeProccessing( *i );
        std::set<Color>::iterator tmp = i;
        ++i;
        myColorContainer.erase(tmp);
    }
    else {
        ++i;
    }
}

После перехода к следующему сообщению с помощью ++i оно гарантированно будет валидным - свойство std::set, что итераторы на вставленных элементах никогда не аннулируются, пока элемент не будет не будет удален.

Так что теперь можно смело стирать предыдущую запись.