If the router is smart enough to see that the message is staying on the same subnet, why is it important for each host to know its own subnet mask?
Simples: Estar em uma sub-rede permite que os hosts se comuniquem sem a necessidade de um roteador.
O artigo que você encontrou é um pouco enganador ao sugerir que um roteador é sempre usado. Na prática, isso geralmente não é verdade: os hosts Ethernet implementam a mesma lógica de 'sub-rede', portanto, o tráfego de mesma sub-rede nunca chega ao atingir o roteador. (Ele entra no switch Ethernet do host A e sai direto para o host B.)
Dito isto ... Sim, o método que você citou (todos os hosts enviando tudo para um roteador; o roteador enviando para o outro host) é completamente possível e, de fato, usado em algumas situações - ISPs, por datacenters, e geralmente quando as comunicações diretas são indesejáveis.
Mas tem a desvantagem significativa de o roteador se tornar uma necessidade para a sub-rede funcionar, em vez de ser um componente opcional que apenas atua como um gateway para redes externas. Entre outras coisas, é outro ponto de falha.
Ele também transforma o roteador em um gargalo de desempenho. Quando os hosts são conectados às suas portas individuais de um switch Ethernet, a soma de todo o tráfego que entra diretamente entre as portas pode ser muito maior do que se tudo fosse espremido através da porta e do roteador.
Por exemplo: Em um comutador de 24 Gbps de 1 porta, a capacidade teórica total é de 48 Gbps (full-duplex). Você pode ter hosts A e B acessando um armazenamento NAS, hosts C / D / E trocando atualizações ponto a ponto do Windows, hosts F / G / H transmitindo um jogo Steam In-Home, host XXX assistindo 4K no YouTube e ainda abundância de capacidade de comutação restante.
Por outro lado, se um único roteador estivesse no meio de tudo, empurrar tudo pela porta desse roteador (e voltar!) limitaria toda a rede a 1 Gbps no total.
Under which circumstances will a message not be able to reach its intended destination because of segregated subnets/networks?
Quando o roteador se recusa a encaminhar a mensagem; por exemplo. ele tem a rota errada (ou nenhuma rota) ou suas regras de firewall proíbem a mensagem. A capacidade de filtrar pacotes por meio de regras de firewall é, na verdade, uma das principais razões para usar sub-redes.
Observe que, às vezes, a mensagem pode chegar ao destino, mas a resposta não será transmitida, o que é uma distinção importante, pois rotas ou regras de firewall em ambas as direções podem ser completamente independentes.