I've heard that for SEO and usability in general it's better to have them at example.com/forums.
Eu discordo. Não deve fazer uma diferença significativa.
Regarding security and maintainability, however, it would be better to host the forums in a seperate VirtualHost (or to be exact, a seperate cPanel account).
Sim; e além dos problemas de segurança do lado do servidor, há também o lado do cliente. Se você colocar seus fóruns no mesmo nome de host do resto do seu site, qualquer vulnerabilidade de script entre sites no software do fórum (e quase sempre há vulnerabilidades de script entre sites no software do fórum) imediatamente se tornará um script entre sites vulnerabilidades para o seu site principal. Se você tem alguma coisa sensível nesse site, como contas ou páginas de administração, seu fórum comprometeu seu material de missão crítica.
Portanto, mantenha seus fóruns em forums.example.com
e seu site principal em www.example.com
, onde eles não poderão vazar os cookies uns dos outros.