Параллельное и распределенное программирование на С++

Annotation

В книге представлен архитектурный подход к распределенному и параллельному программированию с использованием языка С++. Здесь описаны простые методы программирования параллельных виртуальных машин и основы разработки кластерных приложений. Эта книга не только научит писать программные компоненты, предназначенные для совместной работы в сетевой среде, но и послужит надежным «путеводителем» по стандартам для программистов, которые занимаются многозадачными и многопоточными приложениями. Многолетний опыт работы привел авторов книги к использованию агентно-ориентированной архитектуры, а для минимизации затрат на обеспечение связей между объектами системы они предлагают применить методологию «классной доски».

Эта книга адресована программистам, проектировщикам и разработчикам программных продуктов, а также научным работникам, преподавателям и студентам, которых интересует введение в параллельное и распределенное программирование с использованием языка С++.

Параллельное и распределенное программирование на С++

Введение

Этапы большого пути

Подход

Почему именно С++

Библиотеки для параллельного и распределенного программирования

Новый единый стандарт спецификаций UNIX

Для кого написана эта книга

Среды разработки

Дополнительный материал

Диаграммы UML

Профили программы

Параграфы

Тестирование кода и его надежность

Ждем ваших отзывов!

Благодарности

Преимущества параллельного программирования

Что такое параллелизм

Два основных подхода к достижению параллельности

Преимущества параллельного программирования

Простейшая модель параллельного программирования (PRAM)

Простейшая классификация схем параллелизма

Преимущества распределенного программирования

Простейшие модели распределенного программирования

Мультиагентные распределенные системы

Минимальные требования

Декомпозиция

Связь

Синхронизация

Базовые уровни программного параллелизма

Параллелизм на уровне инструкций

Параллелизм на уровне подпрограмм

Параллелизм на уровне объектов

Параллелизм на уровне приложений

Отсутствие языковой поддержки параллелизма в С++

Варианты реализации параллелизма с помощью С++

Стандарт MPI

PVM: стандарт для кластерного программирования

Стандарт CORBA

Реализации библиотек на основе стандартов

Среды для параллельного и распределенного программирования

Резюме

Проблемы параллельного и распределенного программирования

Кардинальное изменение парадигмы

Проблемы координации

Проблема № 1 : «гонка» данных

Проблема № 2: бесконечная отсрочка

Проблема №3: взаимоблокировка

Проблема №4: трудности организации связи

Отказы оборудования и поведение ПО

Негативные последствия излишнего параллелизма и распределения

Выбор архитектуры

Различные методы тестирования и отладки

Связь между параллельным и распределенным проектами

Резюме

Разбиение С++ программ на множество задач

Определение процесса

Два вида процессов

Блок управления процессами

Анатомия процесса

Состояния процессов

Планирование процессов

Стратегия планирования

Использование утилиты ps

Установка и получение приоритета процесса

Переключение контекста

Создание процесса

Отношения между родительскими и сыновними процессами

Утилита pstree

Использование системной функции fork()

Использование семейства системных функций exec

Функции execl ()

Функции execv ()

Определение ограничений для функций exec ()

Чтение и установка переменных среды

Использование POSIX-функций для порождения процессов

Идентификация родительских и сыновних процессов с помощью функций управления процессами

Завершение процесса

Функции exit (), kill () и abort ()

Ресурсы процессов

Типы ресурсов

POSIX-функции для установки ограничений доступа к ресурсам

Асинхронные и синхронные процессы

Создание синхронных и асинхронных процессов с помощью функций fork (), exec (), system () и posix_spawn()

Функция wait ()

Разбиение программы на задачи

Линии видимого контура

Резюме

Разбиение C++ программ на множество потоков

Определение потока

Контекстные требования потока

Сравнение потоков и процессов

Различия между потоками и процессами

Потоки, управляющие другими потоками

Преимущества использования потоков

Переключение контекста при низкой (ограниченной) доступности процессора

Возможности повышения производительности приложения

Простая схема взаимодействия между параллельно выполняющимися потоками

Упрощение структуры программы

Недостатки использования потоков

Потоки могут легко разрушить адресное пространство процесса

Один поток может ликвидировать целую программу

Потоки не могут многократно использоваться другими программами

Анатомия потока

Атрибуты потока

Планирование потоков

Состояния потоков

Планирование потоков и область конкуренции

Стратегия планирования и приоритет

Изменение приоритета потоков

Ресурсы потоков

Модели создания и функционирования потоков

Модель делегирования

Модель с равноправными узлами

Модель конвейера

Модель «изготовитель-потребитель»

Модели SPMD и МРМD для потоков

Введение в библиотеку Pthread

Анатомия простой многопоточной программы

Компиляция и компоновка многопоточных программ

Создание потоков

Получение идентификатора потока

Присоединение потоков

Создание открепленных потоков

Использование объекта атрибутов

Создание открепленных потоков с помощью объекта атрибутов

Управление потоками

Завершение потоков

Точки аннулирования потоков

Очистка перед завершением

Управление стеком потока

Установка атрибутов планирования и свойств потоков

Установка области конкуренции потока

Использование функции sysconf ()

Управление критическими разделами

Безопасность использования потоков и библиотек

Разбиение программы на несколько потоков

Использование модели делегирования

Использование модели сети с равноправными узлами

Использование модели конвейера

Использование модели «изготовитель-потребитель»

Создание многопоточных объектов

Резюме

Синхронизация параллельно выполняемых задач

Координация порядка выполнения потоков

Взаимоотношения между синхронизируемыми задачами

Отношения типа старт-старт (CC)

Отношения типа финиш-старт (ФС)

Отношения типа старт-финиш (СФ)

Отношения типа финиш-финиш (ФФ)

Синхронизация доступа к данным

Модель РРАМ

Параллельный и исключающий доступ к памяти

Что такое семафоры

Операции по управлению семафором

Мьютексные семафоры

Использование мьютексного атрибутного объекта

Использование мьютексных семафоров для управления критическими разделами

Блокировки для чтения и записи

Использование блокировок чтения-записи для реализации стратегии доступа

Условные переменные

Использование условных переменных для управления отношениями синхронизации

Объектно-ориентированный подход к синхронизации

Резюме

Объединение возможностей параллельного программирования и C++ средств на основе PVM

Классические модели параллелизма, поддерживаемые системой PVM

Библиотека PVM для языка С++

Компиляция и компоновка C++/PVM-npoгpaмм

Выполнение PVM-программы в виде двоичного файла

Запуск PVM-программ c помощью PVM-консоли

Запуск PVM-программ c помощью XPVM

Требования к PVM-программам

Объединение динамической С++-библиотеки c библиотекой PVM