Você precisa fornecer muito mais informações:
1) Quanta RAM está disponível na caixa? Tomcat é a única coisa que funciona?
2) É uma VM de 32 ou 64 bits?
3) Quantas CPUs / núcleos estão nesta caixa?
4) Qual versão principal do jdk você está executando? 1,4, 5 ou 6?
As respostas a essas perguntas permitirão que você defina limites para o heap.
Depois que você passar por isso, perguntas sobre o aplicativo podem precisar ser respondidas - quantos objetos são de longa duração (ou seja, cache) e quantos são de curta duração (menos de 5 segundos antes de saírem do escopo).
Estas perguntas nos dizem que% do heap pode ser usado para o Éden, e qual porcentagem precisa ser usada para a geração antiga.
Atualizar
Bem, se o seu Tomcat for de longa duração, adicionar o sinalizador '-server' provavelmente será benéfico. Dadas as suas restrições, a menos que você conheça seus aplicativos por dentro e por fora, é melhor deixar a ergonomia para determinar as melhores taxas e coletores. O ajuste de Java é muito mais uma arte do que uma ciência. Comece aqui: link , procure ferramentas como o GCHisto e o VisualGC para ajudá-lo a visualizar o que está acontecendo dentro da VM.