Модуль нейроподобной сети

/ ТЕЛЬСТВУ институ ЕТИ носится ности к ычисли- моделиГОСУДАРСТВЕННОЕ ПАТЕНТВЕДОМСТВО СССР(56) Авторское свидетельство СССМ 1580405, кл, 6 06 0 7/46, 1989,(57) Использование: изобретение ок вычислительной технике, в часнейроподобным оптоэлектроннымтельным сетям, применяемым дл.,Ы 1803923 А 1 рования систем с распределенными параметрами. Сущность; в нейроподобный модуль с квазипространственным переносом заряда введен блок задания локальных характеристик нейрона. Этот блок содержит два компаратора 10 и 11, два элемента памяти 12 и 13 и элемент запуска 14. Все вводимые элементы имеют внешнее оптическое управление, посредством которого задаются пороговые уровни квантования переносимых в модуле зарядов, режима записи, перезаписи и сброса управляющей информации в элементах памяти. 2 з,п,ф-лы. 2 ил.Изобретение относится к вычислительной технике, а именно к нейроподобнымэлементам оптоэлектронных нейросетевыхструктур, применяемых для моделированиясистем с распределенными параметрами,Целью изобретения является повышение точности моделирования процессов передачи информации в элементах нейронныхсетей за счет адаптации режима квантования переносимой информации в соответствии с внешними и внутренними условиямипроцесса передачи информации.На фиг. 1 приведена структурная схемаузлового модуля нейроподобной сети; нафиг, 2 - вариант функциональной схемы такого нейроподобного модуля на оптоэлектронных элементах,Модуль нейроподобной сети содержитвходные управляемые резисторы 1,1 - 1,Й,накопительные конденсаторы 2 и 3, ключи4 - 7, разделительный управляемый резистор 8, узловой конденсатор 9 блока выходамодуля, компараторы 10 и 11, элементы памяти 12 и 13, элемент запуска 14, 15.1 - 15.6- группа управляющих входов, 16 - входопорного потенциала,В оптоэлектронном исполнении модульнейросети (фиг.2) содержит входные узловые фоторезисторы 1.1 - 1,К, накопительныеконденсаторы 2 и 3, оптроны 4 - 7, где с индексом 1 - информационные фотодиоды, синдексом 2 - управляющие светодиоды,разделительный управляемый резистор 8 -выполнен как повторитель тока на оптроне8 с токозадаюшим фоторезистором 8,1 иисточником излучения 8.2 и входным фоторезистором 8,3, узловой конденсатор 9,компараторы 10 и 11, выполненные на пороговых источниках излучения 10.1-11.1 и фоторезисторах 10.2, и 11,2 для заданияпорогового потенциала на источниках излучения 10,1, 11.1. Элементы памяти 12 и 13выполнены на запоминающих конденсаторах 12,1 и 13.1, оптоэлектронных ключахзаписи 12,2 и 13.2, оптоэлектронных ключахперезаписи 12,3 и 13,3, оптоэлектронныхключах сброса 12,4 и 13,4, элемент запускавыполнен из фоторезисторов 14.1, 14,3 и14,5 и источников излучения 14.2, 14,4 и14.6, элементы 17 и 18 оптической индикации локальных потенциалов и элемент 19оптической индикации потенциала выходамодуля,Структурно нейроподобный модульоформлен в виде трех основных функциональных блоков (фиг,1): блок входа (блокконвергенции входных сигналов), скрытый -внутренний блок (блок однонаправленнойпередачи сигналов) и блок выхода (блок интегрального выходного сигнала), 5 10 15 20 25 30 35 40 45 50 55 При выборе такой структуры преследовалась цель сохранить соответствие (аналогию) функциональных назначений блоков нейроподобного модуля и моделируемого нейрона, так например, блок конвергенции моделирует узел сходящихся дендритов нейронов, блок однонаправленной передачи сигналов моделирует ядро нейрона, в котором осуществляется интегрирование входных сигналов и однонаправленный перенос, блок выхода моделирует эксон нейрона,Блок входа выполнен на управляемых входных узловых резисторах 1,1 - 1,М, блок однонаправленной передачи сигналов выполнен на накопительных конденсаторах и 3, четырех ключах 4 - 7, двух компараторах 10 и 11, двух элементах памяти 12 и 13 и элементе запуска 14, блок выхода выполнен на управляемом резисторе 8 в виде повторителя тока и выходном узловом интегрирующем конденсаторе 9,Применяемые в модуле элементы могут иметь различное исполнение в зависимости от схемного исполнения нейроподобной сети и внешних блоков управления параметрами этой сети. Управляемые резисторы и ключи модуля могут быть кодоуправляемыми при цифровых внешних управляющих блоках, либо могут иметь оптоэлектронное исполнение при оптическом внешнем управлении.Нейроподобный модуль работает следующим образом.В соответствии с моделируемой распределенной системой составляется топология нейроподобной сети, в которой узловые точки сети соединены между собой посредством предлагаемых нейроподобных модулей. При этом выход модуля включен в одну из узловых точек нейросети, а входы соединены с соседними узловыми точками нейросети, каждый со своим синаптическим весом, Вес каждого входного узлового управляемого резистора и других параметров элементов нейроподобного модуля задается в соответствии с условиями моделирования, которые получают сравнением уравнений, описывающих поведение узловых функций моделируемой распределенной системы, и уравнений, описывающих изменение потенциалов в схеме нейроподобного модуля,При выполнении нейроподобного модуля на оптоэлектронных элементах появляется возможность потоком оптических управляющих сигналов осуществлять параллельное задание соответствующих параметров во всех модулях нейросети одновременно, Оптическими сигналами за5 10 20 30 35 40 45 50 55 даются режимы возбуждения и торможения нейроподобного элемента, пороговые уровни и синаптические веса каналов связи нейроподобн ых модулей.Рассмотрим режимы работы предлагаеМого нейроподобного модуля в соответствии со структурной схемой на фиг,1, а затем некоторые особенности работы функциональной схемы на фиг.2, имеющей структу у схемы фиг.10 но выполненной на птоэлектронных элементах.Перед тем, как нейроподобный модульначинает участвовать в общем процессе пе, редачи и преобразования информации в нейросетевом ансамбле, производится "запуск" - перевод в активное (возбужденное) состояние такого модуля, Эта процедура производится подачей управляющего сигнала запуска на управляющий вход 15,3 элемента запуска 14, если на выходахлементов памяти 12 и 13 управляющие сигналы отсутствуют, либо имеются, но недотаточны для включения ключей 4 - 7, то на ыходе элемента запуска генерируется упавляющий сигнал, который подается на ключ запуска элемента памяти 12, произвоится подключение запоминающего коненсатора этого элемента памяти и на ыходе элемента памяти 12 формируется управляющий сигнал, подаваемый на упРавляющие входы ключей 4 и 6, посредством первого накопительного конденсатора 2 подключается ко входу блока однонаправленной передачи сигналов, посредством второго накопительный конденсатор 3 подключается к выходу блока однонаправленной передачи сигналов. Накопительный конденсатор 2 переводится в режим слежения за входной информацией и интегрирования значений входных сигналов до определенной величины, а с накопительного конденсатора 3 производится сброс заряда, соответствующего по величине з ачению передаваемой информации, и пос едством повторителя тока 8 на управляеых резисторах производится перезапись с расываемой величины заряда на выходн й узловой интегрирующий конденсатор 9, свыхода которого, являющегося выходом мЬдуля, эта информация поступает на вход других нейроподобных модулей, подключенных к этой узловой точке сети, Накопительный конденсатор 2 в это время интегрирует входную информацию (сигналы), поступающие на этот конденсатор от других точек сети через управляемые резисторы 1,1 - 1,Й, каждый со своим весом, задаваемым управляющими потенциалами 1,5, Как только потенциал накопленного на кОнденсаторе 2 заряда становится больше,чем значение потенциала порогового уровня 15.1, происходит срабатывание компаратора 10, и на его выходе формируется управляющий сигнал, подаваемый на управляющий вход ключа записи элемента памяти 13 и на управляющий вход ключа перезаписи элемента памяти 12, при этом в элементе памяти 13 запоминающий конденсатор заряжается и на выходе этого элемента памяти появляется управляющий сигнал,подаваемый на управляющие входы ключей 5, 7 и открывающий эти ключи, в то же время в элементе памяти 12 запоминающий конденсатор разряжается и переводится в начальное (нулевое) состояние, управляющийсигнал на выходе элемента памяти 12 исчезает и ключи 4 и б становятся закрытыми (разомкнутыми). На этом кончается первый такт работы блока однонаправленной передачи, когда накопительный конденсатор 2подключен ко входу этого блока, а накопительный конденсатор 3 к выходу блока, во втором такте ко входу блока подключен накопительный конденсатор 3, а к выходу - накопительный конденсатор 2, и картинаинтегрирования входного сигнала на конденсаторе 3, отслеживание компаратором 11 определенного порога зарядки этого конденсатора перезаписи заряда с накопительного конденсатора 2 на интегрирующийузловой выходной конденсатор 9 и переключение ключей 4 - 7 повторяется,Такая двухтактовая схема однонаправленной передачи сигналов в виде периодического квазипереноса квантованныхзарядов от входа блока к выходу работает на самозапуск до тех пор, пока не будет произведен останов (торможение) этого периодического процесса либо при длительном отсутствии сигнала на входе модуля, либовнешним управляющим сигналом 15,4, осуществляющим сброс (разряд) запоминающих конденсаторов обоих элементов памяти 12 и 13, что приводит к обесточиванию цепей управления ключей 4 - 7 и отключению накопительных конденсаторов от входа и выхода блока однонаправленной передачи сигнала,В качестве элементов памяти могут применяться статические элементы памяти на триггере, но применение динамических элементов памяти на запоминающем конденсаторе имеет преимущества при моделировании процессов с самоторможением, когда отсутствие возбуждающихсигналов на входе модуля в течение определенного времени переводит схему в пассивное состояние, Моделирование такогорежима самоторможения в предлагаемой схеме возможно за счет разряда запомина 1803923ющего конденсатора через цепь управления ключей 4 - 7, Так, например, если схема модуля активизирована (возбуждена), то в элементе памяти 12 или 13 на запоминающем конденсаторе записан заряд, достаточный для того, чтобы в течение определенного времени удерживать пары ключей 4, 6 или 5, 7 в замкнутом состоянии.Если за промежуток времени, пока одна из пар находится в замкнутом состоянии, на накопительном конденсаторе, подключенном ко входу модуля, накопится проинтегрированный заряд, по величине превышающий некоторое заданное пороговое значение, то произойдет переключение другого накопительного конденсатора ко входу модуля и этот конденсатор переводится в режим слежения и интегрирования входных сигналов. Но может оказаться так, что если на накопительном конденсаторе за промежуток времени, пока замкнута одна из групп ключей и этот конденсатор находится в режиме слежения и интегрирования входных сигналов, не сформируется пороговый сигнал, достаточный для срабатывания компаратора, и заряд на запоминающем конденсаторе за счет разряда через цепь управления и снизится в конце промежутков времени слежения меньше уровня, достаточного для удержания ключей в замкнутом состоянии, то происходит их размыкание в результате "усталости внимания" и модуль переводится в пассивное состояние (торможение). На управляющие входы элемента запуска 14 от элементов памяти 12 и 13 перестают поступать сигналы индикации содержимого элементов памяти и теперь уже элемент запуска переводится в режим слежения и если на вход 15,3 будет подан сигнал, то произойдет включение ключа запуска, произойдет зарядка запоминающего конденсатора в элементе памяти и модуль снова переводится в режим обработки и передачи сигналов от одних узловых точек нейросети к другим узловым точкам, Элемент запуска 14 устроен таким образом, что при наличии одного из сигналов управления с выходов элементов памяти 12 и 13, управляющий вход 15.3 блокирован и если на этот вход поступает управляющий сигнал, то включение ключа запуска не произойдет.Выполнение нейроподобного модуля на оптоэлектронных элементах имеет свои особенности. В принципе схема работает так же, только функции управления осуществляются оптическими сигналами, что упрощает взаимосвязи между элементами схемы модуля и существенно улучшаются возможности взаимосвязи модулей в нейросетевом ансамбле. Управляющие входы модуля 15,1 - 15.5 - оптические управляющие входы, на которые подаются оптические управляющие сигналы, посредством которых производится запуск модуля, задание пороговых уровней, начальных условий и синаптических весов для входных каналов,Запуск оптоэлектронного нейроподобного модуля осуществляется оптическим сигналом, направленным на фоторезистор 14.5, который после освещения открывается (увеличивает свою проводимость) и если фоторезисторы 14.1 и 14.3 не освещены и, следовательно, закрыты ( а это в том случае, если в цепях управления ключей 4 - 7 управляющие сигналы отсутствуют и ни одна из пар этих ключей не включена), то увеличивается ток через светодиод 14,6, вызывает его свечение и открывает ключ запуска и одновременно записи 12,2, производится заряд конденсатора 12 и открываются оптоэлектронные ключи 4 и 6, подключая накопительный конденсатор 2 через фоторезисторы 1,1 - 1 М ко входу модуля, а накопительный конденсатор 3 через повторитель тока на фоторезисторах 8,1, 8.3 и источнике излучения 8.2 к выходу модуля, Схема оптоэлектронного повторителя тока представлена одной из самых простых схем для иллюстрации принципа однонаправленной передачи сигнала от накопительного конденсатора к конденсатору 9,После зарядки накопительного конденсатора, подключенного ко входу модуля до определенного значения, которое устанавливается величиной проводимости фоторезисторов 10,2 и 11.2 задания пороговых характеристик и которое определяется характеристиками срабатывания оптронов, содержащих попарно оптоэлектронные фотоприемники и излучатели 10.1, 12.3, 13,2 и 11,1, 12.2, 13.3, происходит высвечивание оптического сигнала на источнике излучения, подключенного к заряжаемому накопительному конденсатору, приводящее к соответствующему переключению оптоэлектронных ключей 4 - 7 и смене режима зарядки - разрядки накопительных конденсторов. Заряженный до определенного значения накопительный конденсатор переключается ко входу оптоэлектронного повторителя тока и через входную цепочку последовательно соединенных фоторезистора 8,3 и источника излучения 8,2 заряд с этого конденсатора стекает на шину нулевого потенциала, инициируя при этом за счет свечения источника излучения 8.2 в токозадающем фоторезисторе 8.1 ток зарядки конденсатора 9, по величине пропорциональный току, который стекает с накопительного конденсатора,5 10 15 20 25 30 35 40 45 5055при этом величина заряда на конденсаторе9 повышается на величину, равную зарядунакопительного конденсатора. Накопительный конденсатор после разрядки через цепочку фоторезистора 8.3 и источника 5излучения 8,2 готов к следующему циклупереключений, скорость разрядки накопительного конденсатора определяется емкостью накопительного конденсатора ивеличиной сопротивления источника излучения 8.2 и фоторезистора 8,3, проводимость последнего задается внешнимоптическим сигналом 15.6.Оптоэлектронная реализация ключей иуправляемых резисторов позволяетдовольно простыми техническими средствами осуществлять синхронизацию переключенийнакопительных конденсаторов от входа модуля к его выходу, Применение в управляющих цепях ключей источников излучений 20позволяет их использовать одновременнокак элементы открывания оптоэлектронныхключей, как резистивные элементы разрядки запоминающих конденсаторов для моделирования процессов ослабления внимания 25(торможения), а также как элементы визуальной индикации режимов работы оптоэлектронных ключей, высвечиваемые приэтом оптические сигналы могут применяться для управления другими процессами в 30нейросетях,Подавая одновременно управляющиеоптические сигналы 15.4 на оптические входы фотодиодов 12.4 и 13.4 можно переводить либо выборочные нейроподобные 35модули в заторможенное состояние, либоцелые зоны нейросети.Из предлагаемых модулей набираютнейроподобную сеть в соответствие с условиями решаемой задачи, При этом математическую модель той распределеннойсистемы, которую моделируют на нейроподобной сети, интерпретируют как распределительную систему дискретно-сетевойструктуры, в узловых точках которой моделируются локальные параметры сетевойструктуры, а связь узловых точек осуществляется посредством каналов связи с однонаправленной передачей сигналов,Математическая модель модуля нейроподобной сети может быть представленадифференциальными уравнениями, описывающими изменение локальных функций О 1внутреннего блока однонаправленной передачи и функции О на выходе модуля относительно входных сигналов Ч;,поступающих на вход модуля, включенногов )-ю узловую точку нейроподобной сети, отвыходов модулей, включенных в соседние1-е узловые точки такой сети. В общем виде уравнения изменения локального потенциала О 1 и выходного потенциала Ц для )-го модуля имеют вид:С 2 =61(Ч О - СРЩ/- ВО 1,щС 9/ с = С 2 ЯЦ - 19 Ц - Я Ц (2)где О 1 - потенциал выходного сигнала )-го модуля;О 1 - локальный потенциал блока однонаправленной передачи сигналов )-го модуля;Чи - потенциал входного сигнала на входе )-го модуля от соседних -х узлов нейроподобной сети;01 - проводимость каналов связи от 1-х узлов нейроподобной сети к 1-му модулю;61 - эквивалентное значение проводимости каналов связи выхода )-го модуля с другими узловыми точками нейроподобной сети;Ср - емкость накопительного конденсатора в блоке однонаправленной квантованной передачи сигнала )-го модуля;дг - проводимость цепей ослаблени (торможения) локального потенциала Ц зэ счет утечки через накопительный конденсатор, схему компаратора и источник излучения;С% - емкость узлового выходного конденсатора в -м модуле;дэ 1 - проводимость цепей ослабления (торможения) потенциала выхода О) за счет утечки через конденсатор 9 и включенный параллельно ему источник излучения оптического вывода операционных результатов модуля;О 1 - пороговый потенциал квантованного заряда, переносимого накопительным конденсатором в блоке однонаправленной передачи сигналов в )-м модуле;1 - частота переключения накопительных конденсаторов в)-м модуле,Для моделирования распределенных систем на нейроподобных сетях, набранных из предлагаемых модулей, производят преобразование математической модели распределенной системы к виду уравнений (1) и (2), сравнивают члены при подобных членах уравнений моделируемой системы и уравнений модуля и получаютусловия моделирования, в соответствии с которыми задают необходимые параметры элементов модуля. Задание параметров элементов модуля задают оптическими управляющими сигналами, задаются синаптические веса входных каналов связи в блоке конвергенции, пороговые характеристики и выходные характеристики блока выхода, кроме того посредством оптических сигналов задают режимы запуска (возбуждения) и останова (торможения) модуля. Оптические сигналы источников излучения оптоэлектронных элементов модуля используются для внутреннего упраьления характеристиками нейроподобного модуля и одновременно могут служить как оптические выходы оптоэлектронного нейроподобного модуля для передачи информационных, либо управляющих сигналов другим модулем нейроподобной сети.Таким образом, предлагаемая схема нейроподобного модуля на накопительных конденсаторах с автозапуском режимов переключения этих конденсаторов позволяет повысить качество моделирования процессов переноса квантованной информации в нейроподобных сетях, Исполнение схемы на оптоэлектронных элементах делает схему модуля относительно простой и позволяет использовать операционные оптические сигналы для управления и пеоедачи информации от модуля к модулю в нейроподобной сети. Формула изобретения 1, Модуль нейроподобной сети, содержащий входной блок конвергенции, блок однонаправленной передачи сигналов и блок выхода, при этом блок конвергенции состоит из М узловых входных управляемых резисторов, блок однонаправленной передачи сигнала из двух накопительных конденсаторов и четырех ключей, блок выхода из разделительного управляемого резистора и узлового выходного конденсатора, первые информационные выводы входных узловых управляемых резисторов являются входами блока конвергенции, вторые информационные выводы этих управляемых резисторов соединены между собой и являются выходом блока конвергенции, в блоке однонаправленной передачи сигналов первые информационные выводы первого и четвертого ключей соединены между собой и являются входом блока однонаправленной передачи, а первые информационные выводы второго и третьего ключей соединены между собой и являются выходом блока однонаправленной передачи сигналов, вторые информационные выводы первого и второго ключей соединены между собой и подключены к первому выводу первого накопительного конденсатора, вторые инфор 5 10 15 20 25 30 35 40 45 50 55 мационные выводы третьего и четвертого ключей соединены между собой и подключены к первому выводу второго накопительного конденсатора, вторые выводы первого и второго накопительных конденсаторов подключены к шине нулевого потенциала, в блоке выхода первый вывод узлового разделительного управляемого резистора является входом этого блока, второй вывод этого резистора соединен с первым выводом узлового конденсатора и образует выход блока, второй вывод узлового конденсатора подключен к шине нулевого потенциала, входы блока конвергенции одновременно являются входами модуля, выход блока конвергенции соединен с входом блока однонаправленной передачи сигналов, выход блок соединен с входом блока выхода, а выход этого блока является выходом модуля, управляющие входы управляемых резисторов блока конвергенции образуют первую группу управляющих входов модуля для задания входных параметров, управляющий вход разделительного управляемого резистора является управляющим входом модуля для задания параметров блока выхода, о т л и ч а ю щ и й с я тем, что, с целью повышения точности моделирования процессов передачи информации в элементах нейронных сетей, введен блок задания локальных параметров, содержащий два компаратора, два элемента памяти, элемент запуска, каждый элемент памяти содержит запоминающий конденсатор, ключ записи, ключ перезаписи, ключ сброса, элемент запуска содержит три управляемых резистора и один ключ запуска, в каждом элементе памяти первый вывод запоминающего конденсатора; первые информационные выводы ключа записи, ключа перезаписи и ключа сброса соединены между собой и являются выходом элемента памяти, второй вывод запоминающего конденсатора, вторые информационные выводы ключа перезаписи и ключа сброса подключены к шине нулевого потенциала, второй информационный вывод ключа записи подключен к шине опорного потенциала, в элементе запуска первый и второй управляемыерезисторы соединены в параллель и их первые информационные выводы подключены к шине нулевого потенциала, а вторые информационные выводы этих резисторов и первый информационный вывод третьего управляемого резистора соединены между собой и подключены к управляющему входу ключа запуска, второй информационный вывод третьего управляемого резистора подключен к шине опорного потенциала, первый информационный вывод ключа запуска подключен квыходу первого элемента памяти, второй информационный вывод этого ключа подключен к шине опорного потенциала, управляющий вход первого управляемого резистора элемента запуска подключен к 5 выходу первого элемента памяти, управляющий вход второго управляемого резистора элемента запуска подключен к выходу второго элемента памяти, первый вход первого компаратора подключен к первому выводу 10 первого накопительного конденсатора, первый вход второго компаратора подключен к первому выводу второго накопительного конденсатора, выход первого компаратора соединен с управляющим входом ключа за писи во втором элементе памяти и с управляющим входом ключа перезаписи в первом элементе памяти, выход второго компаратора соединен с управляющим входом ключа записи в первом элементе памяти и с управ ляющим входом ключа перезаписи во втором элементе памяти, вторые входы первого и второго компараторов являются соответственно первым и вторым управляющими входами модуля для задания поро говых характеристик модуля, управляющие входы ключей сброса в элементах памяти являются управляющими входами модуля для останова и задания начальных условий, управляющий вход третьего управляемого резистора элемента запуска является управляющим входом для запуска модуля,2, Модуль по п,1, о т л и ч а ю щ и й с я тем, что узловые управляемые резисторы, разделительный управляемый резистор, управляемые резисторы элемента запуска модуля и ключи выполнены на оптронах, при этом фотоприемники этих оптронов имеют дополнительные оптические управляющие входы для внешних управляющих оптических сигналов, кроме того, к узловому выходному конденсатору и двум накопительным конденсаторам подключены в параллель источники излучения, оптический выходной сигнал первого является оптическим аналоговым выходом модуля, оптические выходы двух последних являются оптическими выходами кодовых сигналов модуля,