No-modeset: O que faz o 'nomodeset'
Inicialização dupla significa ter 2 sistemas operacionais em uma máquina onde você, durante o processo de inicialização, seleciona 1 para iniciar. Tecnicamente, ele se refere a dois sistemas, mas você pode ter algo como o sistema operacional em seu sistema (e a maioria ainda chamaria isso de dual boot). Com este método, você terá 1 sistema ativo e 1 sistema de processamento.
WUBI é um método de instalação do Ubuntu - dentro de um Windows (mas NÃO no Windows ME e NÃO no Windows 8). Você inicializa no Windows e dentro do Windows você pode iniciar o Ubuntu. O WUBI foi criado como uma ferramenta para pessoas interessadas no Ubuntu, mas que não queriam mexer em suas partições para obter uma inicialização dupla. (por isso, não deve ser usado como um método permanente para usar o Ubuntu).
Se você deseja instalar o Ubuntu dentro do Windows, você também pode usar o VirtualBox, o VMWare ou outro software de "máquina virtual".