Bem, para o servidor de arquivos real, WebDAV provavelmente faria sentido.
É bem suportado na maioria dos sistemas de desktop e padronizado. Existem muitos servidores gratuitos disponíveis.
Para a parte "perguntar por conta": O mais simples seria ter uma página da Web com um link mailto:. Deixe o usuário enviar um e-mail solicitando a conta e crie-a manualmente.
Se você quiser algo mais integrado, provavelmente precisará implementá-lo por conta própria. Não conheço nenhum software para fazer isso automaticamente.
Você provavelmente poderia usar algum tipo de interface de hospedagem, que os ISPs usam para administrar o servidor do cliente, mas isso seria significativamente mais complicado & pesado do que o que você quer, então pode não ser um bom ajuste. Isso realmente depende das suas necessidades exatas.