Как это можно сделать с помощью Mongo в одном [атомарном] операторе:
insert mytable set MyUniqueKey = ?, X = ? on duplicate key update Y = ?
Когда этот оператор выполняется в первый раз, он устанавливает значение X, но после этого он будет обновлять только значение Y.
Только MyUniqueKey является частью уникального ключа и должен искать дубликаты.