75. Организация массово-параллельных ВС (МPP-систем).

Обеспечение высокой и сверхвысокой производительности. Реализуется в суперкомпьютерах, квантовых компьютерах (которых нет, но уже созданы эффективные алгоритмы). Основной метод решения- распараллеливание вычислений. Виды параллелизма:

1. естественный или векторный параллелизм;
2. параллелизм независимых ветвей;
3. параллелизм смежных операций или локальный параллелизм.

1.Векторный параллелизм. Наиболее распространенной в обработке структур данных является векторная операция (естественный параллелизм). Вектор – одномерный массив, который образуется из многомерного массива, если один из индексов не фиксирован и пробегает все значения в диапазоне его изменения. 

2.Параллелизм независимых ветвей. Суть параллелизма независимых ветвей состоит в том, что в программе решения большой задачи могут быть выделены независимые программные части – ветви. Под независимостью ветвей понимается независимость по данным.

3.Смежных операций. При исполнении программы регулярно встречаются ситуации, когда исходные данные для i-й операции вырабатываются заранее, например, при выполнении (i-2)-й или (i-3)-й операции. Тогда при соответствующем построении вычислительной системы можно совместить во времени выполнение i-й операции с выполнением (i-1)-й, (i-2)-й, … операции. В таком понимании локальный параллелизм похож на параллелизм независимых ветвей, которые очень отличаются длиной и требуют разных вычислительных систем.

Уровни параллелизма. Любую логическую функцию можно выполнить с большим или меньшим числом элементов.Высший уровень параллелизма – параллелизм на уровне машинных команд. Поток команд распределяется по нескольким параллельным потокам при одновременном их выполнении.Параллелизм на уровне задач. Отдельные задачи могут выполняться параллельно.Параллелизм на уровне систем. Grid-технология.

Последовательный алгоритм, n – кол-во шагов. Ускорение (S) рассчитывается по формуле S=n/log₂n. Например n=16 => S=4-ускорение в 4 раза