As respostas aqui já explicam o que é DPI, mas a sua pergunta não é realmente o que é DPI, mas qual é a configuração de DPI mais alta que você deve usar para sua imagem.
Apenas uma recapitulação para que os outros não tenham que ler os comentários que eu postei nas outras respostas: DPI é uma conversão de pixels para tamanho físico, como cm, polegada, etc. Quando um programa ou impressora usa a configuração de DPI, basicamente calcula o quão pequeno ou grande no papel a imagem deve ser sem alterar a própria imagem. Assim, uma imagem de 1024x768 com uma configuração de baixa DPI pode preencher um papel A4 inteiro, mas parecerá muito pixelizada quando impressa, como no caso de a mesma imagem impressa com uma configuração de DPI muito alta parecer muito pequena no papel.
Agora, o que acontece se você imprimir em uma configuração de DPI mais alta do que a impressora suporta, basicamente como quando você usa o editor de fotos e redimensiona a foto para uma imagem menor. Você perde detalhes.
Isso torna a pergunta muito difícil de responder. Se você especificar um DPI muito baixo, a imagem ficará maior no papel. Se você especificar um DPI muito alto, você perderá detalhes na imagem, o que pode fazer com que o texto não seja mais legível, ou linhas desaparecerão, dependendo da quantidade de detalhes que a imagem tenha.
Embora eu não possa responder à pergunta com certeza, porque eu não sei o quão bem a impressora lida com um DPI que é muito alto, eu suspeito que se você for maior que a configuração 1200DPI no eixo vertical, você perderá detalhes. Assim, mesmo que 4800 DPI esteja no eixo grande, suspeito que 1200DPI deve ser a configuração máxima de DPI que você deve usar para garantir que você não perderá nenhuma informação.
Você poderia testar isso criando uma imagem baseada em padrão entrelaçado com um pixel preto, um pixel branco, um pixel vermelho e um pixel branco, um pixel verde e um último pixel branco e repetir isso verticalmente uma linha vertical longa (você pode deixar esses pixels mais largos, então a linha fica mais fácil de detectar), depois imprima em 1200DPI e em 4800DPI e veja se você está guardando as informações, ou se algumas cores desaparecem.
Melhor ainda seria se o Matlab pudesse de alguma forma especificar diferentes configurações de DPI para toda a imagem. Também é possível que a impressora calcule as dimensões com base em uma fórmula e, portanto, a configuração máxima de DPI que você poderia usar é 3 / 4th de 4800DPI, ou seja, 3600DPI (porque 1200DPI é 1 / 4th de 4800DPI, então reduza isso de 4800DPI para compensar para passar por cima.
Então minha resposta será: experimente um pouco para ter certeza. As informações contidas nesta resposta devem ajudá-lo a entender como e por que isso funciona assim.