A Oracle tem alguma documentação sobre o tema: Realizando backup e recuperação de banco de dados com VSS .
Tanto o VSS quanto o RMAN parecem bons para mim, a principal diferença é como você pode usá-lo:
A principal vantagem do RMAN é o uso do catálogo. Ele armazena informações dos backups mais recentes e permite restaurar facilmente os dados.
O VSS funcionará em um nível inferior, sem que seu banco de dados esteja ciente de que é feito backup. Mas o VSS permitirá que você faça backup de seu banco de dados usando o mesmo caminho (e ferramentas) que você pode usar para fazer backup de um servidor de arquivos ou de um banco de dados do SQL Server.