O Manual do usuário do Dell Optiplex 745 tem detalhes da configuração do produto. De particular interesse é a página 56, onde as especificações de memória são detalhadas:
Memory Type 533, 667, or 800 MHz DDR2 SDRAM
NOTE: 2-GB 800-MHz memory modules are not supported.
Memory connectors 4
Memory modules supported 256 MB, 512 MB, 1 GB, or 2 GB non-ECC
Minimum memory dual-channel: 512 MB; single-channel: 256 MB
Maximum memory At 533 or 667 MHz: 8 GB At 800 MHz: 4 GB
Parece que o uso de módulos de 2 GB de 800 MHz é explicitamente não suportado. Isso provavelmente explicaria os problemas de BSOD que você está tendo.