Есть несколько вариантов, которые вы можете взять здесь. Во всех вариантах вы должны хранить другой ключ в своем собственном файле /home/user/.ssh/id_rsa для этих примеров.
1) Если вы хотите использовать ключ, отличный от ~/.ssh/id_rsa, укажите его с помощью аргумента ssh -i ~/.ssh/id_rsa.otherkey user@server.example.com
2) Если вы хотите использовать ключ несколько раз в текущем сеансе, добавьте его в свой ssh-агент с помощью ssh-add: ssh-add ~/.ssh/id_rsa.otherkey
3) Если вы хотите установить это более постоянно, вы можете указать ключи в ~/.ssh/config следующим образом:
Host shortcut
HostName server.example.com
User user
IdentityFile /home/user/.ssh/id_rsa.otherkey