Eu uso um Dell Dimension 8300 de 2003 com o Ubuntu 12.04 LTS (desktop). Não é rápido, é claro, mas funciona como servidor e backup e é utilizável para trabalhos simples de área de trabalho, como navegação e libreoffice. Com um servidor doméstico, eu sempre instalo a versão desktop do sistema operacional, mesmo que seja apenas um servidor. Isso torna muito mais acessível, especialmente com teclado, mouse e monitor conectados.
Para fazer isso funcionar, pegue um disco rígido. Talvez você possa emprestar um de um amigo para o teste. A placa de vídeo pode ser problemática. Pode precisar de mais RAM.
Quando você realmente quer um servidor, você também pode tentar um no Linode.com. Pode ser mais barato do que comprar um disco rígido. Por US $ 20 por mês, você pode fazer o que quiser. Eles cobram por mês. Então, se você começar em 15 de abril, você será cobrado por meio mês. Se você matá-lo antes do final do mês, é apenas cerca de US $ 10. Isso lhe dará um servidor sem desktop.