yuv420p

Вы можете использовать -pix_fmt yuv420p или -vf format=yuv420p, чтобы убедиться, что ваш выход использует этот формат пикселей (при условии, что вы выводите видео H.264).