Я бы взглянул на http://code.google.com/p/openid4java/ и http://code.google.com/p/openid4java/wiki/QuickStart
