Лекция
Привет, Вы узнаете о том , что такое оптическая нейронная сеть, Разберем основные их виды и особенности использования. Еще будет много подробных примеров и описаний. Для того чтобы лучше понимать что такое оптическая нейронная сеть , настоятельно рекомендую прочитать все из категории Computational Neuroscience (вычислительная нейронаука) Теория и приложения искусственных нейронных сетей.
оптическая нейронная сеть — это физическая реализация искусственной нейронной сети с оптическими компонентами . Ранние оптические нейронные сети использовали фоторефрактивную объемную голограмму для соединения массивов входных нейронов с массивами выходных нейронов с синаптическими весами, пропорциональными силе мультиплексированной голограммы. Объемные голограммы дополнительно мультиплексировались с помощью спектрального выжигания дыр, чтобы добавить одно измерение длины волны в пространство и достичь четырехмерных соединений двухмерных массивов нейронных входов и выходов. Это исследование привело к обширным исследованиям альтернативных методов, использующих силу оптического соединения для реализации нейронной связи.
Некоторые искусственные нейронные сети, реализованные в виде оптических нейронных сетей, включают нейронную сеть Хопфилда и самоорганизующуюся карту Кохонена с жидкокристаллическими пространственными модуляторами света . Оптические нейронные сети также могут быть основаны на принципах нейроморфной инженерии , создавая нейроморфные фотонные системы . Как правило, эти системы кодируют информацию в сетях с помощью импульсов, имитируя функциональность импульсных нейронных сетей в оптическом и фотонном оборудовании. Фотонные устройства, продемонстрировавшие нейроморфные функции, включают (среди прочего) лазеры с вертикальным резонатором и поверхностным излучением , интегрированные фотонные модуляторы , оптоэлектронные системы на основе сверхпроводящих джозефсоновских переходов или системы на основе резонансных туннельных диодов .
Схема оптической нейронной сети, функционирующей как логический элемент (вверху), и ее реализация на микроволновых частотах (внизу). Промежуточные дифракционные метаповерхности функционируют как скрытые слои .
Биологические нейронные сети функционируют на электрохимической основе, тогда как оптические нейронные сети используют электромагнитные волны. Оптические интерфейсы к биологическим нейронным сетям могут быть созданы с помощью оптогенетики , но это не то же самое, что оптические нейронные сети. В биологических нейронных сетях существует множество различных механизмов динамического изменения состояния нейронов, включая кратковременную и долговременную синаптическую пластичность . Об этом говорит сайт https://intellect.icu . Синаптическая пластичность относится к электрофизиологическим явлениям, используемым для управления эффективностью синаптической передачи: долговременная — для обучения и памяти, а кратковременная — для коротких переходных изменений эффективности синаптической передачи. Реализация этого с помощью оптических компонентов сложна и в идеале требует использования передовых фотонных материалов. К желательным свойствам фотонных материалов для оптических нейронных сетей относится способность изменять эффективность передачи света в зависимости от интенсивности входящего света.
С ростом значимости компьютерного зрения в различных областях вычислительная стоимость этих задач увеличилась, что делает разработку новых подходов к ускорению обработки еще более важной. Оптические вычисления стали потенциальной альтернативой ускорению на графических процессорах для современных нейронных сетей, особенно с учетом надвигающегося устаревания закона Мура. Следовательно, оптические нейронные сети привлекли повышенное внимание исследовательского сообщества. В настоящее время исследуются два основных метода оптических нейронных вычислений: на основе кремниевой фотоники и оптики свободного пространства. Каждый подход имеет свои преимущества и недостатки; хотя кремниевая фотоника может обеспечить более высокую скорость, ей не хватает массового параллелизма, который может обеспечить оптика свободного пространства. Учитывая значительные возможности параллелизма оптики свободного пространства, исследователи сосредоточились на использовании ее преимуществ. Одна из реализаций, предложенная Лином и др. , включает обучение и изготовление фазовых масок для классификатора рукописных цифр. Путем наложения фазовых масок, напечатанных на 3D-принтере, свет, проходящий через изготовленную сеть, может считываться массивом фотодетекторов из десяти детекторов, каждый из которых представляет собой класс цифр от 1 до 10. Хотя эта сеть может обеспечить классификацию в терагерцовом диапазоне, ей не хватает гибкости, поскольку фазовые маски изготавливаются для конкретной задачи и не могут быть переобучены. Альтернативный метод классификации в оптике свободного пространства, предложенный Канг и др. , использует систему 4F, основанную на теореме свертки для выполнения операций свертки. Эта система использует две линзы для выполнения преобразований Фурье операции свертки, что позволяет пассивно преобразовывать данные в область Фурье без потребления энергии и задержки. Однако ядра операции свертки в этой реализации также представляют собой изготовленные фазовые маски, что ограничивает функциональность устройства только определенными сверточными слоями сети. В отличие от этого, Ли и др. предложили метод, включающий разбиение ядра на блоки, чтобы использовать параллелизм системы 4F, используя цифровое микрозеркальное устройство (DMD) вместо фазовой маски. Этот подход позволяет пользователям загружать различные ядра в систему 4F и выполнять вывод всей сети на одном устройстве. К сожалению, современные нейронные сети не предназначены для систем 4F, поскольку они были разработаны в основном в эпоху CPU/GPU. В основном потому, что они, как правило, используют более низкое разрешение и большое количество каналов в своих картах признаков.
В 2007 году существовала одна модель оптической нейронной сети: программируемый оптический массив/аналоговый компьютер (POAC). Он был реализован в 2000 году и, как сообщалось, основан на модифицированном корреляторе с объединенным преобразованием Фурье (JTC) и бактериородопсине (BR) в качестве голографической оптической памяти. Полный параллелизм, большой размер массива и скорость света — три преимущества, которые POAC предлагает для реализации оптической сверточной нейронной сети. В последние годы они исследовались с учетом их практических ограничений и соображений, что привело к разработке первой портативной версии POAC.
Практические детали – аппаратная часть (оптические схемы) и программное обеспечение (оптические шаблоны) – были опубликованы. Однако POAC – это универсальный программируемый матричный компьютер, имеющий широкий спектр применений, в том числе:
Taichi от Университета Цинхуа в Пекине — это гибридная оптическая нейронная сеть, которая сочетает в себе энергоэффективность и параллелизм оптической дифракции с возможностью настройки оптической интерференции. Taichi предлагает 13,96 миллионов параметров. Taichi избегает высоких показателей ошибок, характерных для глубоких (многослойных) сетей, за счет объединения кластеров дифракционных блоков с меньшим количеством слоев с массивами интерферометров для реконфигурируемых вычислений. Его протокол кодирования разделяет большие сетевые модели на подмодели, которые могут быть распределены по нескольким чиплетам параллельно.
В ходе тестирования с базой данных Omniglot программа Taichi достигла точности 91,89% . Она также использовалась для генерации музыки Баха и изображений в стиле Ван Гога и Мунка .
Разработчики заявили об энергоэффективности до 160 триллионов операций в секунду −1 ватт −1 и эффективности использования площади 880 триллионов операций умножения-накопления мм −2 или 10³ более энергоэффективных, чем NVIDIA H100 , и в 10² раз более энергоэффективных и в 10 раз более эффективных по площади, чем предыдущие ONN.
Недавно в дифракционную нейронную сеть было введено временное измерение с помощью фемтосекундной лазерной литографии гидратации перовскита. Временное поведение нейрона может модулироваться фемтосекундным лазером на наномасштабе, что позволяет создать программируемую голографическую нейронную сеть с функцией временной эволюции, то есть функциональность может изменяться со временем под воздействием стимулов гидратации. Была продемонстрирована функция временного вывода в памяти, имитирующая эволюцию функций человеческого мозга, то есть функциональность может изменяться от простой классификации изображений цифр до более сложной классификации изображений цифр и предметов одежды со временем. Это первый случай введения временного измерения в оптическую нейронную сеть, закладывающий основу для будущей разработки фотонных чипов, подобных мозгу.
Исследование, описанное в статье про оптическая нейронная сеть, подчеркивает ее значимость в современном мире. Надеюсь, что теперь ты понял что такое оптическая нейронная сеть и для чего все это нужно, а если не понял, или есть замечания, то не стесняйся, пиши или спрашивай в комментариях, с удовольствием отвечу. Для того чтобы глубже понять настоятельно рекомендую изучить всю информацию из категории Computational Neuroscience (вычислительная нейронаука) Теория и приложения искусственных нейронных сетей
Из статьи мы узнали кратко, но содержательно про оптическая нейронная сеть
Комментарии