Я рекомендую проверить http://lua-users.org/wiki/ObjectOrientedProgramming . В нем есть ссылки на самые популярные библиотеки Lua OOP и инструкции о том, как при необходимости развернуть свои собственные. Последнее кажется очень популярным выбором.