I want to set up a file server (NAS) and possibly provide other services than that (DNS, VPN perhaps) and I would like it to be accessible from an external client (FTP, SSH and such). What do I need to consider/change to make this happen hardware/software-wise?
Assumindo que você quer dizer do ponto de vista da rede, você precisa de um dispositivo NAS que forneça esses serviços ... Essa parte da sua pergunta não ficou clara. Geralmente tudo o que é necessário é um simples encaminhamento de porta em seu roteador, como a porta 22 / TCP para SSH em seu roteador, que seria redirecionada para o endereço IP estático que você rotearia para seu dispositivo NAS. Observe que isso geralmente não é a melhor maneira de conseguir isso do ponto de vista de segurança, geralmente é preferível usar um cliente VPN, mesmo em uma rede doméstica. Esteja ciente de que muitos roteadores têm a capacidade de fornecer serviços VPN ou atuar como servidores de arquivos para clientes internos e externos com segurança. ASUS é um exemplo comum que eu conheço, mas existem outros.
Is this the optimal structure for my home network? Is it not better to remove the router/wireless part from the cable modem, and only use a cable modem which simply converts every signal from the COAXIAL->Ethernet?
Isto é puramente minha opinião, mas não, não é "ideal". Minha experiência tem sido que os cable modem / roteadores fornecidos pela operadora não são os melhores. Na maioria das situações, é melhor obter um roteador sem fio de boa qualidade (ASUS / Dlink / TP-Link / etc) e usar um modem mudo no modo bridge. Além disso, o ideal é ter tantos clientes e dispositivos quanto possível com uma conexão com fio em vez de sem fio, mas isso não parece fazer parte da sua pergunta.
Does a simple cable modem have an external/internal ip-address, or is this set by the wireless router in the diagram?
Não, um "modem a cabo simples" é apenas um dispositivo de ponte na camada 2 de todas as perspectivas práticas. A maioria das unidades de combinação de modem / roteador fornecidas pelas empresas de cabo podem ser colocadas no modo de ponte e funcionar como um modem "simples". Isso simplesmente converte o sinal de rede no coaxial para um meio Ethernet que você pode usar, passando pelo endereço NAT público ou de nível empresarial que é fornecido pelo seu ISP (efetivamente, é um pouco mais complexo que isso, mas não é relevante para esta resposta).