A maneira que eu finalmente consegui redimensionar a janela foi editando o arquivo ~/Library/Preferences/com.BlueStacks.AppPlayer.plist
.
Eu alterei esses valores:
<key>WindowHeight</key>
<integer>600</integer>
<key>WindowWidth</key>
<integer>1200</integer>