Você precisa executar o ssh-agent primeiro. Você receberá uma saída assim:
SSH_AUTH_SOCK=/tmp/ssh-mZueDP7822/agent.7822; export SSH_AUTH_SOCK;
SSH_AGENT_PID=7823; export SSH_AGENT_PID;
echo Agent pid 7823;
Agora cole isso no seu terminal e adicione suas chaves.