• сравнение прототипов;

• представление характерных признаков прототипа.

На практике первым из указанных свойств не обладает ни один из известных алгоритмов кластеризации. Нейронная сеть с обучением без управления, выполняющая кластеризацию, представляет собой самоорганизующуюся карту признаков, которую в начале 80-х годов предложил Т. Об этом говорит сайт https://intellect.icu . Кохонен.

В картах самоорганизации нейроны помешаются в узлах решетки, обычно одно- или двухмерной. Карты более высокой размерности также возможны, но используются достаточно редко. Нейроны в ходе конкурентного процесса избирательно настраиваются на различные входные образы (возбудители) или классы входных образов. Положения таким образом настроенных нейронов (т.е. нейронов-победителей) упорядочиваются по отношению друг к другу так, что на решетке создается значимая система координат. Пространственное положение выходных нейронов в топографической карте соответствует конкретной области признаков данных, выделенных из входного пространства.

Разработка карт самоорганизации в качестве нейронных моделей обусловлена следующим отличительным свойством человеческого мозга: он организован таким образом, что отдельные сенсорные входы представляются топологически упорядоченными вычислительными картами в определенных его областях. В частности, такие сенсорные входы, как нервные окончания тактильной системы, зрения, и слуха, отображаются на различные контуры церебральной коры мозга. Таким образом, вычислительное отображение является кирпичиком в инфраструктуре обработки информации нервной системой. Карта вычислений, в свою очередь, образована массивом нейронов, представляющих собой несколько по-разному настроенные процессоры или фильтры, параллельно принимающие информацию от различных сенсоров.

На рисунке 8.1 показаны структурные схемы двух моделей. В обоих случаях выходные нейроны организованы в виде двумерной решетки. Такой тип топологии гарантирует, что каждый нейрон имеет множество соседей. Эти модели отличаются друг от друга способом задания входных образов.

Модель Уилшоу-ван дер Мальсбурга была предложена в работе, посвященной биологическим основам, которые объясняли отображение сетчатки глаза на зрительную область коры головного мозга. В частности, существуют две связанные друг с другом двумерные решетки нейронов, где одна проецируется на другую. Первая решетка представлена предсинаптическими (входными), а вторая – постсинаптически-ми (выходными) нейронами. Постсинаптическая решетка использует возбуждающий механизм близкого радиуса действия, равно как и тормозящий механизм дальнего действия. Эти два механизма по своей природе являются локальными и исключительно важными для самоорганизации. Решетки соединяются изменяемыми синапсами Хеббовского типа. Постсинаптические нейроны не относятся к типу "победитель забирает все" – вместо этого используется порог, гарантирующий, что в любой момент времени будут активны только несколько постсинаптических нейронов. Более того, чтобы избежать неограниченного наращивания синаптических весов, которое может привести к неустойчивости системы, общий вес, ассоциированный с каждым постсинаптическим нейроном, ограничивается некоторым значением. Таким образом, рост одного синаптического веса нейрона приводит к автоматическому уменьшению остальных. Основная идея модели Уилшоу-ван дер Мальсбурга состоит в том, что для представления информации соседние предсинаптические нейроны должны связываться с соседними постсинаптическими. Таким образом, самоорганизация приводит к топологически упорядоченному отображению. Следует заметить, что модель Уилшоу-ван дер Мальсбурга пригодна только для представления отображений, в которых размерности входного и выходного сигналов равны.

Рисунок 8.1 – Модели ИНС самоорганизации.

Вторая модель была предложена Т. Кохоненом. Она не концентрируется на нейробиологических деталях. Эта модель извлекает существенные признаки вычислительных карт мозга и при этом остается вычислительно трактуемой. Модель Кохонена по сравнению с моделью Уилшоу-ван дер Мальсбурга является более общей в том смысле, что размерности входных и выходных сигналов различаться.

Конкурентное обучение

Основной целью карт самоорганизации Кохонена является преобразование поступающих векторов сигналов, имеющих произвольную размерность, в одно- или двухмерную дискретную карту. При этом такое преобразование осуществляется адаптивно, в топологически упорядоченной форме. На рисунке 8.2 показана схематическая диаграмма двумерной решетки нейронов. Все нейроны этой решетки связаны со всеми узлами входного слоя. Эта сеть имеет структуру прямого распространения с одним вычислительным слоем, состоящим из нейронов, упорядоченных в столбцы и строки.

Рисунок 8.2 – Двумерная карта самоорганизации с прямоугольной решеткой.

Также используют треугольную сетку или случайное расположение нейронов. От расположения нейронов зависит их кооперация (см.ниже).

Алгоритм, ответственный за формирование самоорганизующихся карт, начинается с инициализации синаптических весов сети. Обычно это происходит с помощью назначения синаптическим весам малых значений, сформированных генератором случайных чисел. При таком формировании карта признаков изначально не имеет какого-либо порядка признаков. После этого в течение каждой эпохи сеть проходить через следующие этапы обучения.

1. Конкуренция. Нейроны в сети конкурируют между собой за право быть активированными. Нейроном-победителем объявляется тот нейрон, для которого евклидово расстояние между вектором весов и вектором входных сигналов оказалось минимальным, как в формуле 8.2.

2. Кооперация. Победивший нейрон формирует на массиве нейронов топологическую область, соответствующую характеристикам входного вектора.

3. Адаптация. Производятся корректировки синаптических весов таким образом, чтобы отклик нейрона-победителя на последующее поступление аналогичных примеров усиливался.

Кооперация и адаптация может происходить в соответствие с одним из двух принципов:

– нейрон-победитель забирает все: активность всех нейронов, кроме нейрона-победителя i*, подавляется и только нейрон-победитель корректирует свои веса:

;

– нейрон-победитель забирает не все: в выражение вводят функцию соседства, которая равна 1 для нейрона победителя и уменьшает значение до 0 по мере удаления от нейрона-победителя до заданного радиуса:

.

Рисунок 8.4 – Выбор элементов для обновления.

Параметры функции соседства и скорости обучения зависят от времени. Обычно, с каждой новой эпохой, радиус окружности вокруг нейрона-победителя уменьшается с 2/3 от радиуса всей сети до 0.