RES = Memória residual - memória em uso.
SHR = Memória compartilhada - segmento de memória que é compartilhado entre vários programas, a quantidade mostrada é a quantidade de objetos compartilhados, dados e bibliotecas que o programa está usando.
VIRT = Memória virtual (não é muito útil na depuração de memória, é o tamanho das páginas virtuais que o processo ocupa)
Um pouco mais a fundo no nível técnico você pode encontrar aqui: link
E algumas explicações mais simples aqui: link