Sem hardware extra, você pode configurar um round robin de DNS para apontar um nome de host para os 3 servidores diferentes. O problema com isso é que, se um dos servidores falhar, ainda há uma chance de o round robin do DNS apontar um usuário para o servidor inativo e ainda causar problemas
Com hardware extra, você pode configurar um balanceador de carga para o qual você pode atribuir um nome de host. O balanceador de carga cuidará das solicitações dos servidores corretos e, se um dos servidores ficar inativo, o balanceador de carga não encaminhará solicitações para o servidor inativo.