Я не думаю, что это сработает. Вызов FreeLibrary с дескриптором извне (LoadLibrary вызывается из области вне DLL), поскольку код работает в ячейке памяти, которая больше не будет действительна.
Даже если это возможно, пахнет плохим дизайном. Возможно, вы хотите сделать какой-то обновитель или похожий. Объясните немного больше, каков результат, которого вы ожидаете. Выгрузка DLL изнутри сама по себе не путь.
Похоже, эти документы полезны. Но я буду благодарен за лучшее описание