ПАРАЛЛЕЛЬНАЯ РЕАЛИЗАЦИЯ МНОГОСЛОЙНОЙ НЕЙРОННОЙ СЕТИ С ЭЛЕМЕНТАМИ САМООБУЧЕНИЯ НА ГЕТЕРОГЕННОМ КОМПЬЮТЕРЕ

А.А. Малявко
DOI: 10.25699/SSSB.2019.2(26).32523 Download PDF
Аннотация: В статье рассматриваются возможные способы уменьшения затрат времени на симуляцию искусственной нейронной сети, архитектура которой ориентирована на изучение механизмов самообучения. На основе сопоставления с биологическими нейронными системами, заведомо способными к самообучению, формулируются некоторые предположения о возможной структуре такой сети в виде совокупности нескольких функционально разнотипных многослойных блоков нейронов. Связи между нейронами направлены преимущественно от входа сети к ее к выходу, но имеются и связи между нейронами одного слоя, а также связи обратной направленности. Эффект самообучения возможно, будет достигнут при реализации непрерывного циклического моделирования работы сети, что полностью соответствует механизмам функционирования биологических прототипов. Непрерывная симуляция сети с большим количеством нейронов требует очень больших затрат компьютерного времени. Поэтому актуальной является ориентация на использование гетерогенных компьютеров, предоставляющих значительно большие вычислительные мощности по сравнению с компьютерами традиционной архитектуры. Описывается параллельная программная модель, разработанная для проведения экспериментов по изучению механизмов самообучения на многоядерных компьютерах с несколькими графическими процессорами, и реализованный в этой модели алгоритм распределения и балансировки нагрузки графических процессоров и ядер центрального процессора. Приводятся результаты экспериментов на двух различных гетерогенных компьютерах, показывающие сравнительно слабый эффект ускорения вычислений за счет использования нескольких GPU. Этот эффект можно объяснить необходимостью постоянного перемещения больших объемов данных между основной памятью и памятью графических процессоров вследствие непрерывного переконфигурирования параметров межнейронных связей, осуществляемого симулятором при исследовании алгоритмов самообучения.
Ключевые слова: нейронная сеть, самообучение, гетерогенный компьютер, графический процессор.

Контакты

Россия, 659305, Алтайский край, г. Бийск,
ул. Трофимова, 27, к. 404Б
Тел. +7-923-162-93-27
(ответственный секретарь -
Голых Роман Николаевич)
e-mail: info@s-sibsb.ru

Свидетельство