Você pode definir limites de usuário por meio de pam_limits em /etc/security/limits.conf . Veja man limits.conf para informações sobre este arquivo.
Eu preciso aplicar "ulimit -s 256" a qualquer thread do sistema. Existe alguma maneira de conseguir isso no Ubuntu Server?
No Ubuntu 12.04 /etc/security/limits.conf não parece ser lido, a menos que o seguinte seja adicionado a /etc/pam.d/common-session .
session required pam_limits.so
Mesmo assim, não está claro para mim se ele é escolhido para programas iniciados por scripts iniciantes.