Uma reinstalação é necessária. Isso é abordado no artigo da base de conhecimento da Microsoft :
- You cannot upgrade from non-Server Core installations of Windows Server
2008 to Server Core installations of Windows Server 2008.- You cannot convert Server Core installations of Windows Server
2008 to non-Server Core installations of Windows Server 2008.