Este error me lo encontré configurando un servidor sftp en aws, al crear un usuario con una clave pública SSH2 me daba este error. Revisando la documentación indica que AWS Transfer Family solo acepta claves públcias con formato PEM.
Para solucionar mi problema tuve que convertir la clave pública SSH2 a PEM, simplemente seguí el siguiente comando:
$ ssh-keygen -i -f ssh2-key.pub > PEM-key.pub
Con esto quedo solucionado mi problema.
