Параллельные вычисления

  1. Последовательные и параллельные алгоритмы. Характеристики параллельных алгоритмов -- ускорение, эффективность. Закон Амдаля. Концепция неограниченного параллелизма.
  2. Основные вычислительные архитектуры. Классификация Флина. Симметричные системы с общей памятью и системы с массовым параллелизмом.
  3. Кластерные архитектуры. Сравнение кластеров с супер-ЭВМ. Особенности параллельного программирования на кластерах.
  4. Распределенные вычисления в гетерогенных сетях. Система PVM. Глобальные проекты массовых параллельных сетевых вычислений (Globus, Legion, GRID). Технология peer-to-peer.
  5. Схемы связи процессоров (кольцо, решетка, тор, гиперкуб). Межпроцессорные обмены.
  6. Оценка производительности супер-ЭВМ. Масштабируемость. Отношение производительность/стoимость и закон Гроша. Ливерморские циклы и тесты LINPACK. Список ТОР-500.
  7. Параллельные алгоритмы для решения задач вычислительной математики (линейная алгебра, разностные схемы, цифровая обработка сигналов и изображений). Оценки ускорения и эффективности.
  8. Средства разработки параллельных программ (анализаторы текста, распараллеливающие компиляторы, отладчики, трассировщики визуализаторы). Прикладные библиотеки для параллельных вычислений. Применение объектно-ориентированного подхода в параллельном программировании.
  9. Основы библиотеки MPI.
  10. Параллельные технологии высокого уровня (скелетоны, модель BSP).