O caractere em forma de losango é U + FFFD REPLACEMENT CHARACTER, e os navegadores podem exibi-lo para indicar um erro de dados em nível de caractere (bytes que não representam nenhum caractere na codificação de caracteres atualmente aplicada).
Seu primeiro caso é uma página declarada como codificada em UTF-8, mas na verdade é codificada no windows-1252. Se você disser manualmente ao Firefox para aplicar essa codificação (Visualizar > Codificação, Oeste Europeu (Windows) ou algo parecido), verá os caracteres como pretendidos, como "aspas inteligentes". Do lado da criação, a questão deve ser fixo por exemplo alterando a tag meta para declarar windows-1252 e não utf-8.
O segundo caso é semelhante e pode ser corrigido de forma semelhante em um navegador; neste caso, a página contém traços (-) na codificação windows-1252. No lado da criação, isso pode ser mais difícil, pois aqui a codificação é declarada em cabeçalhos HTTP e não pode ser substituída no próprio documento; a ação de administração do servidor da web pode ser necessária.