Isso é algo que é gerenciado pelo seu tema. A razão para isso é que os temas usam imagens de bitmap que não são escalonáveis, portanto, para cada tamanho de botão, um autor de um tema deve fornecer as imagens que são pré-dimensionadas para esse tamanho. Eu não tenho 100% de certeza, mas acredito que isso seja algo que temas mais novos podem ser capazes de contornar usando imagens SVG (mas de qualquer forma esta configuração ainda estará no mesmo lugar)
Se você não encontrar uma opção para alterar o tamanho do botão na guia "Decorações da janela" do tema, ele não estará disponível. A melhor maneira de obter o tamanho do botão desejado provavelmente será escolher um tema que você goste.
Outra alternativa que você pode ou não preferir é ajustar as configurações de DPI da sua área de trabalho. Infelizmente, você não mencionou a área de trabalho que usa, por isso não posso mais ajudar, a menos que queira listar as instruções para cada área de trabalho (o que eu não faço). Se você conseguir encontrar essa configuração, ela permitirá que você efetivamente "amplie" a tela inteira. Isso aumentará tudo (não apenas os botões). Pessoalmente, eu gosto de fazer isso porque deixa tudo bom e grande, mas a resolução permanece alta, então ainda é legal.