Как Вы устанавливаете сервер к SFTP сервера для использования аутентификации с открытым ключом вместо учетной записи пользователя и пароля?
В клиенте вам необходимо сгенерировать его открытый ключ и добавить его в список авторизованных ключей сервера.
Ниже приведены команды, которые вы можете использовать.
На клиентском компьютере
ssh-keygen -t dsa -f id_dsa
mv id_dsa* ~/.ssh/
scp ~/.ssh/id_dsa.pub USER_NAME@SERVER:~/.ssh/HOST_NAME.key
На сервере
cat ~/.ssh/HOST_NAME.key >> ~/.ssh/authorized_keys2