Ориентированный на многопотоковое исполнение дизайн структуры данных

Прежде всего, вам действительно следует разделить свои проблемы. Вам нужно беспокоиться о двух вещах:

1. Структура данных и ее методы.
2. Синхронизация потоков.

Я настоятельно рекомендую вам использовать интерфейс или виртуальный базовый класс, который представляет тип структуры данных, которую вы реализуете. Создайте простую реализацию, которая вообще не выполняет никаких блокировок. Затем создайте вторую реализацию, которая обертывает первую реализацию и добавляет к ней блокировку. Это позволит реализовать более производительную реализацию, в которой блокировка не требуется, и значительно упростит ваш код.

Похоже, вы реализуете какой-то словарь. Одна вещь, которую вы можете сделать, - это предоставить методы, семантика которых эквивалентна комбинированному оператору. Например, setdefault - это разумная функция, которая будет устанавливать значение только в том случае, если соответствующий ключ еще не существует в словаре.

Другими словами, я бы порекомендовал выяснить, какие комбинации методов часто используются вместе, и просто создать методы API, которые выполняют эту комбинацию операций атомарно.

А как насчет переноса проверки существования в метод .insert () ? Клиент вызывает его, и если он возвращает false , вы знаете, что что-то пошло не так. Очень похоже на то, что делает malloc () в простом старом C - верните NULL в случае неудачи, установите ERRNO .

Очевидно, вы также можете вернуть исключение или экземпляр объекта и усложнить себе жизнь оттуда ..

Но, пожалуйста, не полагайтесь на то, что пользователь устанавливает свои собственные блокировки.

Иногда создание элемента для вставки обходится дорого. В таких сценариях вы не можете позволить себе регулярно создавать объекты, которые могут уже существовать, на всякий случай.

Один из подходов заключается в том, чтобы метод insertIfAbsent() возвращал заблокированный "курсор" - он вставляет место-заполнитель во внутреннюю структуру, чтобы ни один поток не мог поверить в его отсутствие, но не вставлял новый объект. Заполнитель может содержать блокировку, так что другие потоки, которые хотят получить доступ к этому конкретному элементу, должны ждать, пока он будет вставлен.

В RAII-языке, таком как C++, вы можете использовать класс интеллектуального стека для инкапсуляции возвращаемого курсора, чтобы он автоматически откатывался назад, если вызывающий код не зафиксировал его. В Java это немного более отсрочено с finalize() методом, но все же может работать.

Другой подход заключается в том, чтобы вызывающая программа создавала объект, которого нет, но при этом иногда терпела неудачу при фактической вставке, если другой поток "выиграл гонку". Так, например, выполняется обновление memcache. Это может работать очень хорошо.

В стиле RAII вы могли бы создавать объекты-аксессоры/ручки (не знаю, как они называются, вероятно, существует такая схема), например, List:

template <typename T>
class List {
    friend class ListHandle<T>;
    // private methods use NO locking
    bool _exists( const T& e ) { ... }
    void _insert( const T& e ) { ... }
    void _lock();
    void _unlock();
public:
    // public methods use internal locking and just wrap the private methods
    bool exists( const T& e ) {
        raii_lock l;
        return _exists( e );
    }
    void insert( const T& e ) {
        raii_lock l;
        _insert( e );
    }
    ...
};

template <typename T>
class ListHandle {
    List<T>& list;
public:
    ListHandle( List<T>& l ) : list(l) {
        list._lock();
    }
    ~ListHandle() {
        list._unlock();
    }
    bool exists( const T& e ) { return list._exists(e); }
    void insert( const T& e ) { list._insert(e); }
};


List<int> list;

void foo() {
    ListHandle<int> hndl( list ); // locks the list as long as it exists
    if( hndl.exists(element) ) {
        hndl.insert(element);
    }
    // list is unlocked here (ListHandle destructor)
}

Вы дублируете (или даже утраиваете) публичный интерфейс, но предоставляете пользователям выбор между внутренней и безопасной и удобной внешней блокировкой там, где это необходимо.