Используйте SoundPool .
здесь - учебник - http://content.gpwiki.org/index.php/Android:Playing_Sound_Effects_With_SoundPool