O problema tem a ver com "quirks" cmd.exe (por falta de uma palavra melhor) com o tratamento de caracteres não-alfanuméricos entre aspas simples neste caso. Essencialmente, os caracteres de cursor e espaço estão sendo ignorados.
A maneira mais fácil de evitar o problema (se executá-lo em um shell bash apropriado do Cygwin não é uma opção desejável) seria usar aspas duplas ...
C:\cygwin\home\costa\wk>sed 's/^ bug*/__/' sed.txt
ref __
__ ref
C:\cygwin\home\costa\wk>sed "s/^ bug*/__/" sed.txt
ref bug
__ ref