Как я могу узнать, находится ли выделение внутри выделения с резиновой лентой в ListView?

Нет. Расширение происходит до того, как команда будет запущена. Вы можете только отключить glob перед запуском команды или путем цитирования звезды.

$ # quote it
$ foo '*'

$ # or escape it
$ foo \*

$ # or disable the glob (noglob)
$ set -f
$ foo *