Обычно вам не нужно устанавливать что-то особенное для клиента Windows. Значения по умолчанию в CentOS, где находится ваш ssh-сервер, работают нормально.
Если у вас есть проблемы с openssh, используйте PuTTY или KiTTY в качестве клиента Windows SSH, их будет проще понять пользователям с графическим интерфейсом.
У вас есть проблемы с установкой аутентификации по ключу, или в чем именно проблема?
Попробуйте сначала использовать имя пользователя / пароль и после этого перейти на аутентификацию с открытым ключом. (И отключите аутентификацию по паролю на сервере, если она общедоступна)
Для аутентификации с открытым ключом вы должны создать пару ключей на вашем клиенте (A), используя puttygen или ssh-keygen, а затем добавить открытый ключ (выглядит как ssh-rsa BASE64 ...THINGY == комментарий) в файл ~/.ssh/authorized_keys на сервере (B). ~ здесь находится домашний каталог пользователя, которого вы используете для входа в систему, например, /home/user/.ssh/authorized_keys