Ошибка при попытке записи в RTSP-потоке FFMPEG

Вы превращаете кусок совершенно хорошей строки Unicode (назад) в кучу нетипизированных байтов, которые Python не имеет понятия, как обращаться, но отчаянно пытается применить кодек ASCII. Удалите .encode('utf-8'), и все будет в порядке.