Parece-me que você quer fazer um backup incremental (veja também o diferencial para ver se é isso que você quer). Aqui está um bom tutorial sobre como fazer backups incrementais com o tar .
Se você quiser apenas um diff, então use a opção -d
(pelo menos com o GNU tar):
-d, --diff, --compare
find differences between archive and file system
Então, por exemplo, tar -df foo.tar *