Нейрокомпьютер

 

Фрэнк Розенблатт и «Марк-1» слева

нейрокомпьютер  — устройство переработки информации на основе принципов работы естественных нейронных систем.^[1] Эти принципы были формализованы, что позволило говорить о теории искусственных нейронных сетей. Проблематика же нейрокомпьютеров заключается в построении реальных физических устройств, что позволит не просто моделироватьискусственные нейронные сети на обычном компьютере, но так изменить принципы работы компьютера, что станет возможным говорить о том, что они работают в соответствии с теорией искусственных нейронных сетей.

История

Термины нейрокибернетика, нейроинформатика, нейрокомпьютеры вошли в научный обиход недавно — в середине 80-х годов XX века. Однако электронный и биологический мозг постоянно сравнивались на протяжении всей истории существования вычислительной техники. Знаменитая книга Н. Винера «Кибернетика» (1948)^[2]имеет подзаголовок «Управление и связь в животном и машине».

Первыми нейрокомпьютерами были перцептроны Розенблатта: Марк-1 (1958) и Тобермори (1961—1967)^[3], а также Адалин, разработанный Уидроу (Widrow) и Хоффом (1960) на основе дельта-правила (формулы Уидроу)^[4]. В настоящее время Адалин ( адаптивный сумматор, обучающийся по формуле Уидроу) является стандартным элементом многих систем обработки сигналов и связи.^[5] В этом же ряду первых нейрокомпьютеров находится программа «Кора», разработанная в 1961 году под руководством М. М. Бонгарда^[6].

Большую роль в развитии нейрокомпьютинга сыграла монография Розенблатта (1958)^[7].

Идея нейро-бионики (создания технических средств на нейро-принципах) стала интенсивно реализовываться в начале 1980-х гг. Импульсом было следующее противоречие: размеры элементарных деталей компьютеров сравнялись с размерами элементарных «преобразователей информации» в нервной системе, было достигнуто быстродействие отдельных электронных элементов в миллионы раз большее, чем у биологических систем, а эффективность решения задач, особенно связанных задач ориентировки и принятия решений в естественной среде, у живых систем пока недостижимо выше.

Другой импульс развитию нейрокомпьютеров дали теоретические разработки 1980-х годов по теории нейронных сетей (сети Хопфилда, сети Кохонена,  метод обратного распространения ошибки ).

Основная идея — коннекционизм

В отличие от цифровых систем, представляющих собой комбинации процессорных и запоминающих блоков, нейропроцессоры содержат  память , распределенную в связях между очень простыми процессорами, которые часто могут быть описаны как  формальные нейроны или блоки из однотипных формальных нейронов. Об этом говорит сайт https://intellect.icu . Тем самым основная нагрузка на выполнение конкретных функций процессорами ложится на архитектуру системы, детали которой в свою очередь определяются межнейронными связями. Подход, основанный на представлении как памяти данных, так и алгоритмов системой связей (и их весами), называется коннекционизмом.

Три основных преимущества нейрокомпьютеров:

1. Все алгоритмы нейроинформатики высокопараллельны, а это уже залог высокого быстродействия.
2. Нейросистемы можно легко сделать очень устойчивыми к помехам и разрушениям.
3. Устойчивые и надежные нейросистемы могут создаваться и из ненадежных элементов, имеющих значительный разброс параметров.

Разработчики нейрокомпьютеров стремятся объединить устойчивость, быстродействие и параллелизм АВМ  — аналоговых вычислительных машин — с универсальностью современных компьютеров.^[8]

Проблема эффективного параллелизма

На роль центральной проблемы, решаемой всей нейроинформатикой и нейрокомпьютингом, А. Горбань^[9] предложил проблему эффективного параллелизма. Давно известно, что производительность компьютера возрастает намного медленнее, чем число процессоров. М. Минский сформулировал гипотезу: производительность параллельной системы растет (примерно) пропорционально логарифму числа процессоров — это намного медленнее, чем линейная функция  ( Гипотеза Минского).

Для преодоления этого ограничения применяется следующий подход: для различных классов задач строятся максимально параллельные алгоритмы решения, использующие какую-либо абстрактную архитектуру (парадигму) мелкозернистого параллелизма, а для конкретных параллельных компьютеров создаются средства реализации параллельных процессов заданной абстрактной архитектуры. В результате появляется эффективный аппарат производства параллельных программ.

Нейроинформатика поставляет универсальные мелкозернистые параллельные архитектуры для решения различных классов задач. Для конкретных задач строится абстрактная нейросетевая реализация алгоритма решения, которая затем реализуется на конкретных параллельных вычислительных устройствах. Таким образом нейросети позволяют эффективно использовать параллелизм .

Современные нейрокомпьютеры

Многолетние усилия многих исследовательских групп привели к тому, что к настоящему моменту накоплено большое число различных «правил обучения» и архитектурнейронных сетей, их аппаратных реализаций и приемов использования нейронных сетей для решения прикладных задач.

Эти интеллектуальные изобретения^[10] существуют в виде «зоопарка» нейронных сетей. Каждая сеть из зоопарка имеет свою архитектуру, правило обучения и решает конкретный набор задач. В последнее десятилетие прилагаются серьезные усилия для стандартизации структурных элементов и превращений этого «зоопарка» в «технопарк»^[11]: каждая нейронная сеть из зоопарка реализована на идеальном универсальном нейрокомпьютере, имеющем заданную структуру.

Основные правила выделения функциональных компонентов идеального нейрокомпьютера (по Миркесу):

1. Относительная функциональная обособленность: каждый компонент имеет четкий набор функций. Его взаимодействие с другими компонентами может быть описано в виде небольшого числа запросов.
2. Возможность взаимозамены различных реализаций любого компонента без изменения других компонентов.

Постепенно складывается рынок нейрокомпьютеров. В настоящее время широко распространены различные высокопараллельные нейро-ускорители^[12] ( сопроцессоры ) для различных задач. Моделей универсальных нейрокомпьютеров на рынке мало отчасти потому, что большинство из них реализованы для спецприменений. Примерами нейрокомпьютеров являются нейрокомпьютер Synapse (Siemens, Германия),^[13]  процессор  NeuroMatrix^[14]. Издается специализированный научно-технический журнал «Нейрокомпьютеры: разработка, применение»^[15]. Проводятся ежегодные конференции по нейрокомпьютерам^[16]. С технической точки зрения сегодняшние нейрокомпьютеры — это вычислительные системы с параллельными потоками одинаковых команд и множественным потоком данных (MSIMD-архитектура). Это одно из основных направлений развития вычислительных  систем с массовым параллелизмом.

Искусственная нейронная сеть может передаваться от (нейро)компьютера к (нейро)компьютеру, так же как и компьютерная программа . Более того, на ее основе могут быть созданы специализированные быстродействующие аналоговые устройства . Выделяются несколько уровней отчуждения нейронной сети от универсального (нейро)компьютера^[17]: от сети, обучающейся на универсальном устройстве и использующей богатые возможности в манипулировании задачником, алгоритмами обучения и модификации архитектуры, до полного отчуждения без возможностей обучения и модификации, только функционирование обученной сети.

Одним из способов подготовки нейронной сети для передачи является ее вербализация: обученную нейронную сеть минимизируют с сохранением полезных навыков. Описание минимизированной сети компактнее и часто допускает понятную интерпретацию.

Новый поворот  — «влажный продукт»

В нейрокомпьютинге постепенно созревает новое направление, основанное на соединении биологических нейронов с электронными элементами. По аналогии с Software ( программное обеспечение  — «мягкий продукт») и Hardware (электронное аппаратное обеспечение — «твердый продукт»), эти разработки получили наименованиеWetware (англ.) — «влажный продукт».

В настоящее время уже существует технология соединения биологических нейронов со сверхминиатюрными полевыми транзисторами с помощью нановолокон (Nanowire (англ.)).^[18] В разработках используется современная нанотехнология. В том числе, для создания соединений между нейронами и электронными устройствами используются углеродные нанотрубки. ^[19]

Распространено также и другое определение термина «Wetware» — человеческий компонент в системах « человек -компьютер».

Применения

1. Управление  в реальном времени^[20][21], в том числе:
   • самолетами и ракетами^[22],
   • технологическими процессами непрерывного производства (в энергетике, металлургии и др.)^[23],
   • гибридным двигателем автомобиля^[24],
   • пневмоцилиндром^[25],
   • сварочным аппаратом ^[26],
   • электропечью^[27],
   • турбогенератором^[28].
2. Распознавание образов :
   • изображений^[29], человеческих лиц^[30], букв и иероглифов, отпечатков пальцев в криминалистике, речи, сигналов радара и сонара,
   • элементарных частиц и происходящих с ними физических процессов (эксперименты на ускорителях или наблюдение за космическими лучами),
   • заболеваний по симптомам (в медицине)^[31],
   • местностей, где следует искать полезные ископаемые (в геологии, по косвенным признакам),
   • признаков опасности в системах безопасности,
   • свойств химических соединений по структуре (в хемоинформатике)^[32]
3. Прогнозирование  в реальном времени:
   • погоды,
   • курса акций (и других финансовых показателей)^[33],
   • исхода лечения,
   • политических событий (результатов выборов, международных отношений и др.)^[34][35],
   • поведения противника (реального или потенциального) в военном конфликте и в экономической конкуренции,
   • устойчивости супружеских отношений.
4. Оптимизация  — поиск наилучших вариантов:
   • при конструировании технических устройств,^[36]
   • при выборе экономической стратегии,
   • при подборе команды (от сотрудников предприятия до спортсменов и участников полярных экспедиций),
   • при лечении больного.
5. Обработка сигналов при наличии больших шумов.
6. Протезирование («умные протезы») и усиление естественных функций^[37], в том числе — за счет прямого подключения нервной системы человека к компьютерам (Нейро-компьютерный интерфейс).
7. Психодиагностика ^[38][39][40]
8. Телекоммуникационное мошенничество , его обнаружение и предотвращение с помощью нейросетевых технологий — по мнению некоторых специалистов^[41]являются одной из самых перспективных технологий в области защиты информации в телекоммуникационных сетях.
9. Информационная безопасность ^[42]