Eu encontrei o mesmo erro ('Caracteres de prefixo ou sufixo inválidos. (MS Visual Database Tools)'), e foi porque eu estava tentando usar o SSMS 2008R2 com um banco de dados do SQL Server 2012.
Eu tenho o SQL Server 2008R2 e 2012 instalados na minha máquina e estava usando o SSMS errado.