Организация распределенных вычислений

Практическая реализация процедур поиска оптимальной конфигурации нейронных сетей и их обучения требует значительных вычислительных затрат. Так, время выполнения одной поисковой итерации с использованием современных средств вычислительной техники может составлять десятки и даже сотни часов. Альтернативное решение – использование для обучения нейронных сетей распределенной вычислительной среды, целевая архитектура которой определена в виде локальной вычислительной сети, состоящей из нескольких ПЭВМ, объединенных каналом связи.

Анализ эффективности применения гомогенной локальной вычислительной сети с топологией канала связи «общая шина» показал, что оптимальное число ПЭВМ, обеспечивающих наивысшую производительность, определяется числом предъявленных для обучения нейронной сети реализаций векторов признаков, производительностью каждой ПЭВМ и характеристиками канала связи.

Отсутствие серийного интерфейсного оборудования каналов передачи данных SCSI или USB делают предпочтительным построение распределенной вычислительной среды на базе традиционной локальной вычислительной сети при реализации алгоритма обучения нейронной сети на 1…5 узлах и параллельном проведении статистического моделирования на нескольких других узлах этой сети. Экспериментально установлено, что время выполнения одной итерации обучения нейронной сети удается уменьшить в несколько раз.

Распределенная вычислительная среда незаменима при выполнении статистического моделирования процесса распознавания для определения параметров качества распознавания.

Программа-супервизор, управляющая работой распределенной вычислительной среды

1	-	Управление инициализацией серверов;
2	-	Управление загрузкой проекта;
3	-	Трансляция конфигурации нейронной сети серверам;
4	-	Запуск процесса обучения нейронной сети;
5	-	Остановка процесса обучения нейронной сети;
6	-	Окно вывода величин ошибок обучения;
7	-	Переключатель пошагового режима обучения;
8	-	Окна ввода значений параметров обучения нейронной сети;
9	-	Кнопка передачи значений параметров обучения серверам;
10	-	Список доступных серверов.

Подробнее

Аракчеев П.В., Бурый Е.В. Обучение нейронных сетей с использованием интегрированных вычислительных ресурсов // Нейрокомпьютеры и их применение: Труды VI Всеросс. конф. – М., 2000.
Arakcheev P.V., Buryi E.V. The Distributed Implementation of Neural Networks Training Algorithms // 8–th Int. Conf. ACS’2001. – Szczecin ( Poland), 2001