Каковы правильные настройки GitHub, чтобы запретить людям переходить в основную ветку?

Другой подход, помимо разрешения ветвления в одном репо, - это репозиторий:

• вы настраиваете публичное репо, где разработчики могут фиксировать (на master или разделы темы)
• вы используете частное или репо внутри организации, из которого вы можете вытащить

Таким образом, вы или ваша команда управления организацией вклад, который вы решили включить в мастер этого основного хранилища.