
Chapter 2
Existing Parallel and Distri buted
Systems, Challe nges, and Soluti o ns
2.1 Modern Software Architectures, Systems, and APIs for Parallel
and Distributed Systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2.1.1 HPC Systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2.1.1.1 GPGPU and Accelerators . . . . . . . . . . . . . . . . . 16
2.1.1.2 Clusters . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.1.2 SOA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
2.1.3 Multitier ...