I'm trying to set the common name of the certificate to a name other than the machine name so I can avoid the certificate errors in the browser.
No meu conhecimento, a menos que você instale o certificado no armazenamento raiz de cada máquina que visita, você continuará obtendo esses erros de certificado (pelo menos inicialmente) porque eles não são de uma fonte raiz confiável. Realmente não há maneira de contornar isso com certificados auto-assinados.
Quanto à criação dos certificados auto-assinados, você pode fazer isso no gerenciador do IIS. Abra o Gerenciador do IIS, clique em Certificado do servidor e selecione o link para criar a ação de certificação autoassinada.