Это может быть математическое соглашение в определении интервала, где квадратные скобки означают «экстремальные включительные» и круглые скобки «экстремальные исключительные».