Оптическая нейронная сеть, Голографические корреляторы, Голографическое распознавание образов,Дифракционная глубокая нейронная сеть

Привет, Вы узнаете о том , что такое оптическая нейронная сеть, Разберем основные их виды и особенности использования. Еще будет много подробных примеров и описаний. Для того чтобы лучше понимать что такое оптическая нейронная сеть, дифракционная глубокая нейронная сеть, оптические-бактериородопсиновые нейронные сети , настоятельно рекомендую прочитать все из категории Вычислительный интеллект.

оптическая нейронная сеть представляет собой физическая реализацию искусственной нейронной сети с оптическими компонентами .

Некоторые искусственные нейронные сети, которые были реализованы как оптические нейронные сети, включают нейронную сеть Хопфилда и самоорганизующуюся карту Кохонена с жидкими кристаллами .

Электрохимические и оптические нейронные сети

Биологические нейронные сети работают на электрохимической основе, а оптические нейронные сети используют электромагнитные волны. Оптические интерфейсы к биологическим нейронным сетям могут быть созданы с помощью оптогенетики , но это не то же самое, что и оптические нейронные сети. В биологических нейронных сетях существует множество различных механизмов для динамического изменения состояния нейронов, включая краткосрочную и долгосрочную синаптическую пластичность.. Синаптическая пластичность - один из электрофизиологических явлений, используемых для контроля эффективности синаптической передачи, долгосрочный для обучения и памяти и краткосрочный для краткосрочных переходных изменений эффективности синаптической передачи. Реализовать это с помощью оптических компонентов сложно, и в идеале требуются современные фотонные материалы. Свойства, которые могут быть желательными в фотонных материалах для оптических нейронных сетей, включают способность изменять их эффективность передачи света в зависимости от интенсивности входящего света.

Голографические корреляторы

Голографические корреляторы запоминают образцовые изображения в виде либо плоской, либо объемной голограммы и восстанавливают их при когерентном освещении. Входное изображение, которое может быть зашумленным или неполным, подается на вход системы и одновременно коррелируется оптически со всеми запомненными образцовыми изображениями. Эти корреляции обрабатываются пороговой функцией и подаются обратно на вход системы, где наиболее сильные корреляции усиливают входное изображение. Усиленное изображение проходит через систему многократно, изменяясь при каждом проходе до тех пор, пока система не стабилизируется на требуемом изображении.

Таким образом, такие устройства являются физическими аналогами нейронной сети Хопфилда, нейронной сети Коско и многих других.

1. Принцип работы голографического коррелятора

Типовая схема, реализующая метод оптической согласованной фильтрации на базе голографического фильтра и которая известна как голографический коррелятор, показана на рис.1. Ее принцип работы основан на сравнении входного образа с эталонным. Применительно к контролю здесь принятие решения о качестве контролируемой детали осуществляется по величине выходного сигнала коррелятора, математически описываемого выражением [4,5]

, (1)

где — переменный параметр, характеризующий состояние контролируемой детали; — координаты плоскости фильтрации; - амплитудное пропускание входной плоскости с эталонной деталью; — амплитудное пропускание входной плоскости с контролируемой деталью; — символ операции корреляции.

Рис.1. Схема голографического коррелятора, где:

1 - лазер, 2 - коллиматор, 3 - входная плоскость, 4 и 6 - оптические системы для Фурье-преобразования, 5 - голографический фильтр, 7 - выходная плоскость.

Особенностью рассматриваемой схемы является то, что выходной сигнал функция взаимной корреляции( ФВК) (1) вычисляется не в предметной (входной), а в частотной плоскости. Для этого контролируемая деталь размещается во входной плоскости 3 и освещается плоской волной света, сформированной коллиматором 2 из излучения лазера 1. Прошедший через входную плоскость свет поступает на оптическую систему 4, в задней фокальной плоскости которой формируется Фурье-спектр , где — координаты входной плоскости; — амплитудное пропускание входной плоскости с контролируемой деталью; и — пространственные частоты; — длина волны лазерного излучения; - фокусное расстояние оптической системы. Здесь же находится голографический фильтр 5 с передаточной характеристикой, комплексно сопряженной с Фурье-спектром , где — амплитудное пропускание входной плоскости с эталонной деталью. На выходе фильтра распределение света представляет собой результат перемножения Фурье-спектра от контролируемой детали с передаточной характеристикой фильтра, т.е. , где — символ операции комплексного сопряжения. Об этом говорит сайт https://intellect.icu . После прохождения полученного распределения света через оптическую систему 6, которая выполняет обратное преобразование Фурье, в ее частотной задней фокальной плоскости формируется корреляционный отклик в соответствии с выражением (1). Корреляционный отклик имеет вид яркого светового пятна, интенсивность которого равна . Интенсивность корреляционного пятна с помощью фотоприемника 7 преобразуется в электрический сигнал, который анализируется электронными средствами и по результатам анализа принимается решение о качестве контролируемой детали. При принятии решения о качестве контролируемой детали производится оценка величины относительной интенсивности в корреляционном отклике, определяемой соотношением

, (2)

где — интенсивность корреляционного отклика в точке .

Таким образом, из алгоритма работы коррелятора следует, что для установления его метрологических возможностей и требований к ориентации деталей на позиции контроля необходимо исследовать зависимость функции взаимной корреляции (1) от упомянутых факторов.

Голографическое распознавание образов

ГОЛОГРАФИЧЕСКОЕ РАСПОЗНАВАНИЕ ОБРАЗОВ, распознавание изображения объекта методами голографии и когерентной оптики, состоящее в сравнении изображения распознаваемого объекта с его эталонным изображением, известным заранее. Мерой близости изображения объекта и эталона является их функция взаимной корреляции (ФВК). Задача голографического распознавания образов заключается в установлении наличия распознаваемого объекта в анализируемом изображении и определении его координат в поле зрения системы распознавания. Для этого вычисляется ФВК распознаваемого образа и его эталона и сравнивается максимум этой функции с пороговым значением, определяемым вероятностью правильного распознавания. Если сигнал корреляции превышает порог, объект обнаружен, если сигнал корреляции ниже порога, объекта в анализируемом изображении нет. Одновременно определяются координаты объекта по положению максимума корреляционной функции.

Голографическое распознавание образов осуществляется в голографическом корреляторе Ван дер Люгта и корреляторе совместного преобразования. Оба коррелятора используют оптическую систему пространственной фильтрации изображений, в частотной плоскости которой установлен голографический согласованный фильтр (ГСФ) в виде фурье-голограммы распознаваемого образа либо обобщенной фурье-голограммы. Действие коррелятора основано на свойстве линзы осуществлять двумерное фурье-преобразование изображения при когерентном освещении (смотри Фуръе-оптика). ФВК синтезируется в частотной плоскости коррелятора путем сравнения пространственно-частотных спектров распознаваемого образа и эталонного, записанного в виде голограммы.

Процесс распознавания состоит из двух этапов: на первом изготавливается голографический согласованный фильтр на распознаваемый образ (эталон), а на втором осуществляется собственно распознавание. При изготовлении фильтра (рис. 1) в передней фокальной плоскости линзы L1 устанавливается транспарант с записью распознаваемого образа s(х,у), а в задней фокальной плоскости - голографическая фотопластинка, на которую направляется опорный пучок под углом θ к оптической оси. После экспонирования и фотохимической обработки полученный фильтр помещается в плоскость Р2 (рис. 2) точно в то место, где находилась фотопластинка при его записи, а в плоскости Р1 устанавливается транспарант с записью анализируемого изображения g(х, у) =s(х, у) + n(х, у), содержащего не только распознаваемый образ s(х, у), но и изображения других объектов n(х,у). Линза L1 формирует в плоскости Р2 пространственно-частотный спектр S(vx,vy) + N(vx,vy) анализируемого изображения, где S(vx,vy) - фурье-образ распознаваемого изображения, N(vx,vy) - фурье-образ других объектов, vx, vy - пространственные частоты по осям х и у соответственно.

В результате дифракции пространственно-частотного спектра на голографически согласованном фильтре образуются три дифракционных пучка: нулевого и ± 1-го порядков. Пучок + 1-го порядка, распространяющийся в направлении опорного пучка при записи фильтра, после прохождения через линзу L2 формирует в плоскости Р3 поле корреляций эталонного изображения объекта с изображениями других объектов в анализируемом изображении, а пучок - 1-го порядка образует в плоскости Р3 область сверток этих изображений. Угол θ выбирают таким, чтобы поля корреляций сверток не перекрывались с областью нулевого порядка. В месте расположения распознаваемого образа формируется функция автокорреляции в виде яркого сфокусированного пятна размером 50-100 мкм, а в местах расположения других объектов - функция взаимной корреляции в виде расфокусированных пятен большего размера и меньшей интенсивности. Рис. 3 иллюстрирует процесс распознавания конкретного китайского иероглифа среди других.

На практике вместо фототранспарантов и голографических пластинок используют управляемые транспаранты с оптической и электрической адресацией, а также фоторефрактивные кристаллы и фотополимеры.

Достоинство голографического распознавания образов - быстрота вычислений двумерной функции взаимной корреляции (наносекунды) и независимость времени распознавания от размерности анализируемого изображения и распознаваемого образа. Недостаток - зависимость интенсивности сигнала корреляции от рассогласования с эталоном по углу и размерам. В зависимости от сложности распознаваемого образа рассогласование в 2-3° по углу и 5-10% по размерам приводит к уменьшению сигнала корреляции в 2 раза. Голографическое распознавание образов используется при идентификации отпечатков пальцев, лиц, кредитных карт, иероглифов, деталей на конвейере при автоматической сборке, наземных ориентиров в системах навигации и тому подобное.

оптические-бактериородопсиновые нейронные сети

С развитием нанофотоники стало возможным в качестве основного материала для изготовления оптических нейросетей, использовать бактериородопсин-содержащие пленки. Белок бактериородопсин близок по функции и структуре к зрительному родопсину. Таким образом, искусственная сетчатка, построенная на этой основе будет наиболее соответствовать физиологическому прототипу. Но на основе бактериродопсин возможно построение не только искусственной сетчатки, но и формального нейрона. Это позволяет в принципе реализовать любые виды современных искусственных нейронных сетей на основе мембран, содержащих белок бактериородопсина.

Следует отметить, что бактериородопсин - не единственный белок используемый в этих целях. Также перспективным для исследования является фотоактивный желтый белок PYP (photoactive yellow protein) - рецепторный белок, который например у организма Ectothiorhodopspira halophila . Этот белок обеспечивает отрицательный фототаксис бактерий - убегание от света.

Реализации

В 2007 году появилась одна модель оптической нейронной сети: программируемый оптический массив / аналоговый компьютер (POAC). Он был реализован в 2000 году и был основан на модифицированном совместном корреляторе преобразования Фурье (JTC) и бактериородопсине (BR) в качестве голографической оптической памяти. Полный параллелизм, большой размер массива и скорость света - вот три обещания, предложенные POAC для реализации оптической CNN. Они были исследованы в последние годы с учетом их практических ограничений и соображений, в результате чего была разработана первая портативная версия POAC.

Практические детали - аппаратное обеспечение (оптические схемы) и программное обеспечение (оптические шаблоны) - были опубликованы. Однако POAC - это универсальный программируемый массивный компьютер, который имеет широкий спектр приложений, включая:

• Обработка изображения
• распознавание образов
• отслеживание цели
• обработка видео в реальном времени
• безопасность документов
• оптическое переключение

дифракционная глубокая нейронная сеть

Обученная многослойная фазовая маска (классификатор рукописных символов). Справа показана физическая модель оптической нейросети D²NN, напечатанная на 3D-принтере: слои 8×8 см с расстоянием 3 см друг между другом

Группа исследователей из Калифорнийского университета в Лос-Анджелесе разработала новый тип нейронной сети, которая в работе использует свет вместо электричества. В журнале Science опубликована статья с описанием идеи, рабочего устройства, его производительности и типов приложений, которые, по мнению авторов, хорошо вычислять в нейросети нового типа.

Полностью оптический фреймворк глубокого обучения Diffractive Deep Neural Network (D²NN), который физически сформирован из множества отражающих или прозрачных поверхностей. Эти поверхности работают сообща, выполняя произвольную функцию, усвоенную в результате обучения. В то время как получение результата и прогнозирование в физической сети организовано полностью оптически, обучающая часть с проектированием структуры отражающих поверхностей рассчитывается на компьютере.

Итак, в физической модели D²NN состоит из нескольких отражающих или прозрачных слоев. На этих слоях каждая точка или пропускает, или отражает входящую волну. Таким образом, эта точка представляет собой искусственный нейрон, который соединен с нейронами следующих слоев через оптическую дифракцию. Структура D²NN показана на иллюстрации.


Дифракционная глубокая нейронная сеть (Diffractive Deep Neural Network, D²NN).

На иллюстрации А — схема из нескольких прозрачных/отражающих слоев, где каждая точка представляет собой нейрон со сложным коэффициентом прозрачности или отражения. Эти коэффициенты выводятся путем глубокого обучения. После фазы обучения дизайн D²NN фиксируется — и на 3D-принтере печатаются соответствующие пластины, которые осуществляют вычисления по функции, полученной в результате предварительного обучения. В отличие от электронных компьютерных сетей, здесь вычисления осуществляются со скоростью света.

В ходе экспериментов ученые обучили и экспериментально опробовали несколько типов D²NN. На иллюстрации В показан классификатор рукописных символов, на иллюстрации С — линза (imaging lens).

В нижней части иллюстрации сравнивается работа дифракционной оптической нейросети (слева) и электронной нейросети (справа). Основываясь на когерентных волнах, D²NN работает с комплексными значениями на входе и мультипликативным смещением. Веса в D²NN основаны на дифракции в свободном пространстве и определяют когерентную интерференцию вторичных волн, которые являются фазой и/или амплитудой, смодулированной предыдущими слоями. Символ "ο" означает операцию произведения Адамара, то есть поразрядное логическое умножение соответствующих членов двух последовательностей равной длины.

Исследователи объясняют, что структура оптической нейросети организована по принципу Гюйгенса, в соответствии с которым каждый элемент волнового фронта можно рассматривать как центр вторичного возмущения, порождающего вторичные сферические волны, а результирующее световое поле в каждой точке пространства будет определяться интерференцией этих волн. Таким образом, искусственный нейрон в D²NN соединен с другими нейронами следующего слоя через вторичную волну, которая модулируется по амплитуде и фазе как входной интерференционной картиной, созданной более ранними слоями, так и локальным коэффициентом передачи/отражения в этой точке.

По аналогии со стандартными глубокими нейросетями можно рассматривать коэффициент передачи/отражения каждой точки/нейрона как мультипликативный термин «смещение» (bias), который итеративно корректируется в процессе обучения дифракционной сети, используя метод обратного распространения ошибки. После численного обучения конструкция D2NN фиксируется и определяются коэффициенты передачи/отражения нейронов всех слоев. Затем можно изготовить рассчитанные слои любым методом: 3D-печать, литография и т. д.

Ученые подчеркивают, что оптическая нейросеть выполняет функцию со скоростью света и не нуждается в энергии. Таким образом, она представляет собой эффективный и быстрый способ реализации задач машинного обучения.

Для проверки идеи исследователи сделали нейросеть, способную распознавать цифры от нуля до девяти — и сообщать результат. После обучения на 55 000 изображений чисел распечатанная семислойная нейросеть показала точность 93,39%.



В распознавании модной одежды и обуви пятислойная нейросеть показала точность 81,13%, десятислойная — 86,60%.



По мнению исследователей, нейросеть оптического типа можно использовать в специализированных устройствах, требующих высокой скорости, таких как определение конкретного лица в толпе движущихся людей.

Литература

1 Научная статья 26 июля 2018 года в журнале Science (doi: 10.1126/science.aat8084).

2 Гудмен Дж. Введение в фурье-оптику. М., 1970; Василенко Г. И. Голографическое опознавание образов. М., 1977; Применение методов фурье-оптики / Под редакцией Г. Старка. М., 1988.

Вау!! 😲 Ты еще не читал? Это зря!

• Оптические вычисления
• Квантовая нейронная сеть

Исследование, описанное в статье про оптическая нейронная сеть, подчеркивает ее значимость в современном мире. Надеюсь, что теперь ты понял что такое оптическая нейронная сеть, дифракционная глубокая нейронная сеть, оптические-бактериородопсиновые нейронные сети и для чего все это нужно, а если не понял, или есть замечания, то не стесняйся, пиши или спрашивай в комментариях, с удовольствием отвечу. Для того чтобы глубже понять настоятельно рекомендую изучить всю информацию из категории Вычислительный интеллект