Não deveria ser possível. A chamada do sistema swapon requer que as chamadas readpage e bmap (indiretamente) sejam implementadas pelo sistema de arquivos:
if (!mapping->a_ops->readpage) {
error = -EINVAL;
goto bad_swap;
}
Mas nenhuma delas é implementada por tmpfs , uma entrada desse tipo está faltando na correspondência address_space_operations : link
Pela mesma razão, o tmpfs não pode conter montagens em loop, e o ramfs também não funciona (não tem bmap call)