Eu sei que é um pouco tarde, mas eu tive o mesmo problema com o meu Dell L502X; Deixe-me explicar minha situação e talvez possa ser útil para você:
Eu removi meu compartimento de CD Ótico para adicionar um disco SSD e depois de um ano trabalhando bem no Linux e no Windows, decidi executar uma nova instalação do Windows que resultou em corrupção. Depois disso, não consegui inicializar nem no Linux nem no Windows nem no Linux LiveUSB (recebendo a mesma mensagem que você) ou até mesmo tentar fazer uma nova instalação. Tudo o que tentei falhou.
Para resolver o problema, removi o SSD do compartimento óptico: ele estava completamente quebrado e exibia o BIOS (ele também estava corrompido).
Só depois de tudo isso, eu consegui reinstalar meus sistemas operacionais e nenhuma mensagem "Out of memory" é mais exibida ao inicializar de um LiveUSB.
Espero que possa ser útil para alguém na mesma situação.