Я использовал Process Explorer для поиска процесса с помощью ручки \Device\PCISerial0 и закрыл дескриптор. Если ваши COM-порты не находятся на карте PCI, имя может отличаться.
\Device\PCISerial0