Na minha opinião, há uma pequena ambigüidade na sua descrição, mas é isso que eu fiz para exatamente estar de acordo com os requisitos especificados.
Dim r As Long
For r = Cells(Rows.Count, 1).End(xlUp).Row To 1 Step -1
If IsNumeric(Cells(r, 1).Value) And CBool(Len(Cells(r, 1).Value)) Then _
Rows(r).EntireRow.Insert shift:=xlDown
Next r