Para a relação makefile.in / makefile.am, dê uma olhada na wikipedia sobre o sistema de construção GNU: link . Há um gráfico explicando o papel de cada arquivo.
Não há nenhuma maneira automatizada que conheço, mas também posso recomendar maneiras de compilar a biblioteca:
- Instale o cygwin: link que vem com o sistema GNU completo e muitos utilitários úteis
- Migre o projeto para usar o cmake (http://www.cmake.org). CMake pode gerar arquivos Microsoft VS, bem como Unix Makefiles. Este projeto: link usa o cmake a baseado no Windows e vários tipos de Unix, por exemplo.