Todo sistema moderno usa uma MMU para mapear a memória virtual para a memória física. Hardware mais recente também tem esse recurso em outro hardware (por exemplo, em uma placa gráfica). Isso é chamado de IO-MMU.
(Veja link para uma gráfico que vale mais que mil palavras)
No seu caso, você tem uma placa Nvidia que possui um io-MMU on-board, mas que não é iniciado corretamente na inicialização, ou que não funciona com o driver na sua instalação Debian.
Isso leva a quatro soluções:
- Corrigir o firmware. (Na placa gráfica ou na placa-mãe (BIOS / UEFI).
- Trabalhe ao redor no driver.
- Trabalhe em torno dele inicializando um sistema operacional que o configure adequadamente e deixe-o em um estado configurado parcialmente durante reinicializações a quente.
- Não use este recurso quebrado.
O último é algo que você pode fazer facilmente no software. Dependendo de como ele está quebrado, tente desabilitar o VT-d (no firmware do BIOS), ou através dos parâmetros do kernal.
Para definir o parâmetro do kernel, consulte este link link .
Acho que a opção que você deseja é iommu = off ou soft.
Se você quer construir um kernel sem suporte ao IOMMU, então verifique seu arquivo .config para esses valores e 'brinque com eles' para descobrir qual opção funciona para você.
CONFIG_GART_IOMMU=y
CONFIG_CALGARY_IOMMU=y
CONFIG_CALGARY_IOMMU_ENABLED_BY_DEFAULT=y
CONFIG_AMD_IOMMU=y
CONFIG_AMD_IOMMU_STATS=y
CONFIG_IOMMU_HELPER=y
CONFIG_IOMMU_API=y
CONFIG_IOMMU_DEBUG