Get-ChildItem é o único a ser usado, e uma rapidinha seria:
Get-ChildItem 'HKLM:\SOFTWARE\Microsoft\Windows\CurrentVersion'
Mais exemplos aqui: link
Se você deseja obter um valor de chave específico:
$val = (Get-ItemProperty -path 'HKLM:\SYSTEM\CurrentControlSet\Control\ComputerName\ActiveComputerName').ComputerName
E como definir / editar adequadamente link