Primeiro de tudo, você tem o .NET 4.5 Framework instalado no seu prefixo Wine (garrafa)?
Se não, então você precisa usar um prefixo pré-definido que já tenha o .NET 4.5 Framework instalado, ou instale você mesmo. Assim como no Windows, você precisa ter certeza de que todas as dependências estão instaladas para que o programa funcione. Para instalar prefixos predefinidos, dê uma olhada aqui .
Se você já tem o .NET framework instalado em seu prefixo, sugiro que você tente executar seu programa com wine a partir da linha de comando (Terminal.app) para observar quaisquer mensagens que sejam impressas em stdout ou stderr. Espero que isso possa lhe dar algumas pistas.
Acho que você digitaria o seguinte para abrir o seu exe no Terminal:
/Applications/Wine.app/Contents/Resources/bin/wine path/to/your/exe
Para usar o WineBottler, você pode encontrar este tutorial útil.
Se tudo mais falhar, você pode querer considerar o uso de Mono para executar o seu programa .NET. Dê uma olhada no este guia .