Infelizmente, você não pode usar o QtCurve com o Openbox.
O Openbox usa um formato de tema totalmente diferente do Kwin. Se você quiser bordas do Windows correspondentes, você precisaria usar outro gerenciador de janelas, como o Kwin.
Você precisa das Configurações do Sistema do KDE e do Kwin para usar o QtCurve como tema de borda da janela.