Isso porque você tem sua identidade (chave pública) adicionada como chave autorizada no serv2 em /root/.ssh/authorized_keys . Veja man sshd section AUTHORIZED_KEYS FILE FORMAT para mais informações sobre este arquivo.
Sua identidade padrão é armazenada em ~/.ssh/id_dsa, ~/.ssh/id_ecdsa, ~/.ssh/id_rsa, id_ed25519 arquivos e arquivos semelhantes, terminando com .pub armazenando as respectivas chaves públicas. Quando você tenta logar em qualquer ssh remoto sem especificar a opção '-i', elas são oferecidas ao servidor remoto. Se o servidor remoto tiver algum desses armazenados em ~/.ssh/authorized_keys , você poderá efetuar login com essa chave (ou seja, sem senha). Porque a senha e a chave pública são dois métodos diferentes de autorização do usuário remoto.
Quando você está especificando a opção '-i', você está apresentando apenas uma chave pública diferente, armazenada nesse arquivo.
Você também pode executar a opção ssh com '-v' para obter mais detalhes sobre qual método-chave / chave pública foi aceito pelo controle remoto. Como neste exemplo:
debug1: Next authentication method: publickey
debug1: Offering RSA public key: /home/nstorm/.ssh/id_rsa
debug1: Authentications that can continue: publickey,gssapi-keyex,gssapi-with-mic,password
debug1: Offering ECDSA public key: /home/nstorm/.ssh/id_ecdsa
debug1: Server accepts key: pkalg ecdsa-sha2-nistp256 blen 104
debug1: Authentication succeeded (publickey).
Authenticated to 172.16.2.1 ([172.16.2.1]:22).
Se você não quiser efetuar login no serv2 sem senha quando não definir sua identidade não-padrão com a opção '-i', é necessário remover sua identidade padrão armazenada no serv2 em /root/.ssh/authorized_keys . Deve ser a mesma linha que a sua chave ~/.ssh/id_*.pub local.