Всегда есть GPC
EDIT:
Flipcodemystery triangulator. Медленнее GPC в моих крайне ограниченных и, возможно, ошибочных тестах.
poly2tri имеет BSD-лицензию.
Также есть Triangle и TetGen .