mpi

(Отново) За паралелното програмиране

Вместо увод По-добре късно, отколкото още по-късно. Доста вода изтече и много неща се промениха, откакто за последно писах тук за HPC. Всъщност откакто за последно писах тук изобщо. Едно от непроменимите неща, обаче, остава тенденцията на прехода от монолитни процесори с едно свръх-бързо ядро към процесори с множество относително по-бавни ядра или такива с огромен брой много прости ядра (напр. GPU). Дори часовниците не остават незасегнати. Силен двигател на тази тенденция е и масовото навлизане на машинното самообучение.