Você normalmente usaria o sinalizador -u para isso. Do man page do tar:
-u, --update only append files newer than copy in archive
para que essa sequência faça o que você precisa:
# First create the tar file. It has to be UNCOMPRESSED for -u to work
tar -cvf my.tar some-directory/
# ... update some files in some-directory
# ... add files in some-directory
# Now update only the changed and added files
tar -uvf my.tar some-directory/
# Compress if desired
gzip my.tar
Para uma visão um pouco mais detalhada, veja aqui: link