СПб.: Политехника, 2014. – 328 с. Формат 60х90 1/8 (20,5х27 см)
ISBN 978-5-7325-1036-2
В монографии дается современное изложение теории проектирования алгоритмов быстрых преобразований и модульных нейронных сетей. С системных позиций рассматриваются быстрые преобразования и многослойные нейронные сети с прореженным набором связей и модульной организацией. Предложены алгоритмы структурного проектирования и обучения перестраиваемых быстрых преобразований и нейронных сетей. Исследованы потенциально достижимые свойства быстрых преобразований по пластичности, разделяющей мощности и обобщающей способности. Все рассмотренные алгоритмы сопровождаются примерами и программными реализациями на языке MatLab. Изложение ориентировано на практическое использование в задачах сжатия сигналов высокой размерности, классификации и распознавания образов, спектрального анализа и фрактальной фильтрации. Кроме специалистов по информационным телекоммуникационным технологиям, книга может быть полезна для аспирантов и студентов магистерского уровня подготовки. Тексты программ размещены на сайте http://www.dorogov.su
Теоретическая основа быстрых алгоритмов долгое время базировалась на теоремах факторизации, которые доказывали возможность разложения матрицы спектрального преобразование в произведение слабозаполненных матриц. В свое время это породило всплеск работ по алгоритмам спектральных преобразований, где каждая теорема факторизации воспринималась научным обществом как своего рода открытие. Появление класса быстрых перестраиваемых преобразований, для которых теоремы факторизации не применимы, заставило исследователей изменить взгляды на принципы построения быстрых алгоритмов. Возникла потребность в новой теоретической базе. В книге автор предложил в основу теории быстрых преобразований положить системные инварианты слабосвязанных сетей, это решение устраняет необходимость использования теорем факторизации и позволяет предложить общий метод построения различных топологических реализаций быстрого преобразования при неизменной структуре.
Оказалось, что системные инварианты слабосвязанных сетей обладают свойством самоподобия. Это позволило использовать быстрые преобразования для генерации фрактальных структур, а, кроме того, разработать методы обучения перестраиваемых преобразований, отличающиеся конечным числом шагов и абсолютной сходимостью.
Перестраиваемые преобразования с позиций сегодняшнего дня можно рассматривать как нейронные сети с прореженными связями и линейными функциями активации. Вторая часть книги посвящена слабосвязанным нейронным сетям. Перенос методов конструирования быстрых преобразований в технологию нейронных сетей позволил автору развить теорию модульных нейронных сетей. Показатели пластичности позволяют оценить разделяющую мощность нейронных сетей при использовании в задачах классификации образов. Полученные результаты открывают перспективы использования нейронных сетей для задач сверхбольшой размерности, где их применение было ограничено большим объемом вычислительных операций и отсутствием эффективных алгоритмов обучения больших нейронных сетей.
Содержание (в сокращении)
Введение
ЧАСТЬ 1. ПРОЕКТИРОВАНИЕ АЛГОРИТМОВ БЫСТРЫХ ПРЕОБРАЗОВАНИЙ
1. СТРУКТУРНОЕ И ТОПОЛОГИЧЕСКОЕ ПРОЕКТИРОВАНИЕ БЫСТРЫХ ПРЕОБРАЗОВАНИЙ
Структурный анализ алгоритмов БПФ
Стратификация модельных представлений быстрых преобразований
Лингвистические модели алгоритмов быстрых преобразований
Нейросетевая интерпретация быстрых перестраиваемых преобразований
Регулярные топологии быстрых алгоритмов
Графические образы регулярных топологий
Построение регулярных топологий
Построение топологических реализаций общего вида
Алгоритм реализации быстрого перестраиваемого преобразования
Вычислительная эффективность быстрых перестраиваемых преобразований
2. ПЕРЕСТРАИВАЕМЫЕ ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ В ЗАДАЧАХ ФУНКЦИОНАЛЬНОЙ ДИАГНОСТИКИ И КЛАССИФИКАЦИИ СИГНАЛОВ
Метрические методы диагностирования и классификации сигналов
Оптимальные линейные преобразования
Методы построения оптимальных ортогональных преобразований
Обучение быстрых перестраиваемых преобразований для задач распознавания образов и классификации сигналов
3. НАСТРОЙКА ПЕРЕСТРАИВАЕМЫХ ПРЕОБРАЗОВАНИЙ К ТИПОВЫМ СИСТЕМАМ ОРТОГОНАЛЬНЫХ ФУНКЦИЙ
Мультипликативное разложение элементов матрицы быстрого преобразования
Настройка на базис Адамара
Настройка на базис Виленкина-Крестенсона
Настройка на базис Фурье с естественным упорядочением функций по частотам следования
Настройка на быстрое вейвлет-преобразование
4. ФРАКТАЛЬНЫЕ СВОЙСТВА БЫСТРЫХ ПРЕОБРАЗОВАНИЙ
Инварианты самоподобия
Системные инварианты слабосвязанных сетей
Аналитическая форма регулярного фрактала
Дискретная аппроксимация фракталов и самоподобных объектов
Системы итерирующих функций для детерминированного квазифрактала
5. ОДНОМЕРНЫЕ БЫСТРЫЕ ПРИСПОСОБЛЕННЫЕ ПРЕОБРАЗОВАНИЯ
Фрактальная фильтрация сигналов
Программная реализация фрактальных фильтров
Приспособленное преобразование в арифметическом пространстве
Приспособленные преобразования в минимаксном пространстве
Трансформирующее приспособленное преобразование
Спектральные приспособленные преобразования
Быстрые ортогональные трансформирующие преобразования
Градиентное обучения трансформирующих перестраиваемых преобразований
Градиентное обучение спектральных перестраиваемых преобразований
Быстрые перестраиваемые преобразования в квантовых вычислениях
6. ДВУМЕРНЫЕ БЫСТРЫЕ ПРИСПОСОБЛЕННЫЕ ПРЕОБРАЗОВАНИЯ
Двумерные быстрые преобразования
Мультипликативная декомпозиция элементов матрицы быстрого преобразования
Фрактальная фильтрация изображений
Настройка приспособленных двумерных преобразований
Построение объемных фракталов
ЧАСТЬ II. CЛАБОСВЯЗАННЫЕ НЕЙРОННЫЕ СЕТИ
7. МНОГОСЛОЙНЫЕ ЯДЕРНЫЕ НЕЙРОННЫЕ СЕТИ
Цели и задачи нейротехнологии
Математические модели нейронных сетей
Многослойные ядерные нейронные сети
Регулярные ядерные нейронные сети с реконфигурируемой структурой и топологией
Программная реализация алгоритма проектирования топологий регулярных ядерных сетей
Оценка быстродействия ядерных нейронных сетей
8. МОДУЛЬНЫЕ СЛАБОСВЯЗАННЫЕ НЕЙРОННЫЕ СЕТИ
Концепции модульности нейронных сетей
Топологические модели модульных нейронных сетей
Обучение модульных нейронных сетей прямого распространения
Математические модели слабосвязанных нейронных сетей
Алгоритм структурной генерации слабосвязанной сети
9. ПЛАСТИЧНОСТЬ НЕЙРОННЫХ СЕТЕЙ
Системные модели «общего положения»
Операторные многообразия нейронных модулей
Пластичность модульных нейронных сетей
Расчет модальных состояний в слабосвязанных нейронных сетях
Графический расчет пластичности слабосвязанных сетей
Пластичность регулярных нейронных сетей
Пластичность многослойной нейронной сети прямого распространения
Пластичность двухслойной модульной сети
Топологическая пластичность нейронных сетей
10. ОЦЕНКИ КАЧЕСТВА НЕЙРОННЫХ СЕТЕЙ
Построение оценок качества нейронных сетей
Оценка способности нейронной сети к аппроксимации отображений
Вычисление операторного ранга модульной нейронной сети
Измерение разделяющей мощности нейронных сетей
Измерение обобщающей способности нейронных сетей
СПИСОК ЛИТЕРАТУРЫ
ПРИЛОЖЕНИЯ
Об авторе:
ДОРОГОВ АЛЕКСАНДР ЮРЬЕВИЧ,
Доктор технических наук, профессор кафедры «Автоматика и процессы управления» Санкт-Петербургского государственного электротехнического университета «ЛЭТИ» (СПбГЭТУ), главный научный сотрудник ОАО «Информационные телекоммуникационные технологии» («Интелтех»). Специалист в области обработки данных и извлечения знаний. Автор более двухсот научных работ.
|
