O problema com o pam_mktemp é que existem muitos softwares com /tmp
codificados, e eles não honram a variável TMPDIR.
O recurso "Namespaces" nos kernels recentes pode ser usado para isso, conforme explicado em um post no blog por um desenvolvedor do Gentoo .