Нейронные сети. Часть 7. Лекции

Сеть Элмана исследуется на примере задачи детектирования амплитуды гармонического сигнала. Пусть известно, что на вход нейронной сети поступают выборки из некоторого набора синусоид. Требуется выделить значения амплитуд этих синусоид.

Далее рассматриваются выборки из набора двух синусоид с амплитудами 1.0 и 2.0:

p2 = sin(1:20)*2;  

Целевыми выходами такой сети являются векторы

t2 = ones(1,20)*2;  

Сформируем набор векторов входа и целевых выходов

Сформируем обучающую последовательность в виде массивов ячеек

Создание сети

Для создания сети Элмана предназначена М-функция newelm. Решаемая задача требует, чтобы сеть Элмана на каждом шаге наблюдения значений выборки могла выявить единственный ее параметр – амплитуду синусоиды. Это означает, что сеть должна иметь один вход и один выход:

S2 = 1;% Число нейронов выходного слоя  

Рекуррентный слой может иметь любое число нейронов и чем сложнее задача, тем большее количество нейронов требуется. Остановимся на 10 нейронах рекуррентного слоя

S1 = 10;% Число нейронов рекуррентного слоя  

Элементы входа для данной задачи изменяются в диапазоне от-2 до 2. Для обучения используется метод градиентного спуска с возмущением и адаптацией параметра скорости настройки, реализованный в виде М-функции traingdx

gensim(net)  

Обучение сети.

Для обучения сети Элмана используется М-функция train. Ее входными аргументами являются обучающие последовательности Pseq и Tseq, в качестве метода обучения используется метод обратного распространения ошибки с возмущением и адаптацией параметра скорости настройки. Количество циклов обучения принимается равным 1000, периодичность вывода результатов –20 циклов, конечная погрешность обучения 0.01:

Проверка сети

Будем использовать для проверки сети входы обучающей последовательности

axis([1 80 0.8 2.2]), grid on %Рис.8.3  

Обладает ли построенная сеть Элмана свойством обобщения? Попробуем проверить это, выполнив следующие исследования.

Подадим на сеть набор сигналов, составленный из двух синусоид с амплитудами 1.6 и 1.2, соответственно

Требуется разработать сеть Хопфилда с двумя устойчивыми точками в вершинах трехмерного куба

T = [-1 -1 1; 1 -1 1]'  

     1     1  

Синтез сети

Выполним синтез сети, используя М-функцию newhop

Удостоверимся, что разработанная сеть имеет устойчивые состояния в этих двух точках. Выполним моделирование сети Хопфилда, приняв во внимание, что эта сеть не имеет входов и содержит рекуррентный слой; в этом случае целевые векторы определяют начальное состояние слоя Ai, а второй аргумент функции sim определяется числом целевых векторов

Рассмотрим сеть Хопфилда с четырьмя нейронами и определим 4 точки равновесия в виде следующего массива целевых векторов

T = [1 -1; -1 1;  1 1; -1 -1]'  

    -1     1     1    -1  

На рис. показаны эти 4 точки равновесия на плоскости состояний сети Хопфилда

b = net.b{1,1}  

   -0.1797  

Проверим, принадлежат ли вершины квадрата сети Хопфилда:

    -1     1     1    -1  

Как и следовало ожидать, выходы сети равны целевым векторам.

Теперь проверим поведение сети при случайных начальных условиях.

end