Как называется этот алгоритм сопоставления?

Вы можете использовать outer с векторизованной версией вашей функции, используя mapply.

id <- seq_along(colnames(ddf))
outer(id,id,function(x,y)mapply(myfunction,ddf[,x],ddf[,y]))