Você não adicionou o segundo endereço IP, mas substituiu o primeiro endereço IP.
Você deve conseguir acessar o servidor através desse segundo endereço IP, se a máscara de rede estiver correta e qualquer firewall permitir o acesso a esse endereço IP.
Para referência, é mais fácil IMHO adicionar endereços IP extras via:
ip addr add newip/32 dev eth0
Use /32
se o novo endereço estiver dentro da mesma máscara de rede que um endereço IP existente, caso contrário use a máscara de rede real (no seu caso / 31 para 255.255.255.254).
A remoção é feita com, por exemplo:
ip addr del newip/32 dev eth0
Se o endereço de IP extra for permanente, adicione uma linha ao parágrafo iface eth0 inet static
:
up ip addr add newip/32 dev eth0