Устройство для моделирования нейронных сетей

СОЮЗ СОВЕТСКИХСОЦИАЛИСТИЧЕСКИРЕСПУБЛИК 9) (1) 6 С 76 САНИЕ ИЗОБРЕТЕНИЯ ДЕТЕЛЬСТВ У К АВТОРСКОМ в м модо ьство СССР60, 974,рование осМ.: Наука ство СССР7/60, 983 устройьных сеГОСУДАРСТВЕННЫЙ КОМИТЕТ СССР ПО ДЕЛАМ ИЗОБРЕТЕНИЙ И ОТКРЫТ(54) УСТРОЙСТВО ДЛЯ МОДЕЛИРОВАНИЯНЕЙРОННЫХ СЕТЕЙ(57) Изобретение относится кствам для моделирования локал тей иэ неиронов и может быть использовано в системах распознавания образов и управлйния, в частности всистемах распознавания и синтеза речи. Цель изобретения - повьппение точности воспроизведения. В устройство,содержащее две группы нейроподобныхэлементов с временной суммациейвходного сигнала, ключи и счетчик,подсчитывающий число единиц, введены дополнительный счетчик, подсчитывающий число единиц, и схема сравнения. Благодаря чему выравниваютсяфизические веса информационно равнозначных ответов нейроподобных элементов каждой группы, что позволяетучесть ширину следа траектории запомненной последовательности.ил.1305732 В режиме обучения размыкаются ключи б, за счет чего устраняется влияние обратной связи с выходов нейроподобных элементов 4 и 5, На текущемФцикле на вход 11 устройства поступает сигнал "1" - потенциал высокого или "0" - низкого уровней, "1 н проходит на вход счетчика 7, а "О" инвертируется в .лнверторе 10 и проходит на вход счетчика 8. "1" с входа счетчика 7 или 8 проходит на его выход и поступает на один из входов схемы 9 сравнения. После сравнения на выходе схемы 9 сравнения генерируется потенциал высокого или низкого уровней соответственно, Этот потенциал поступает на информационные входы нейроподобных элементов 4 и 5, примером реализации которых может служить устройство для моделирования нейрона при условии замены в нем внутренней синхронизации на внешнюю.В момент прихода на синхронизирую-: щие входы нейроподобных элементов 4 и 5 синхронизирующего импульса потенциал с информационного входа нейроподобного элемента. 4 (5) пройдет на вход модели обобщенного дендрита. Таким образом, на вход блока 1 нейроподобных элементов годается входная обучаюшая последовательность, и предыдущих символов обучающей последо -вательности, где и - длина моделиобобщенного дендрита нейропоцобныхэлементов - адреса нейроподобных элементов, осуществляют адресацию соответствующих нейроподобных элементов4 и 5, В зависимости от типа. нейроподобного элемента 4 или 5, а такжеот значения следуюшего (и+1)-го символа входной (обучаюшей) последовательности, изменяются состояния нейроподобных элементов 4 и 5, одних -в сторону обучения ,И-элементов 4,если следующий символ "1" и НЕ-элементов 5, если - "0"), других - всторону забывания. На следующем цикле осуществляется аналогичный процесс, где адресация происходит пои символов - и) предыдущих символов и следующий символ последовательнссти, И-нейроподобные элементы 4 отлича 45 ются от НЕ-нейроподобных элементов 5 избирательной реакцией на свой тип входного сигнала: И-нейроподобные элементы меняют свое состояние при наличии во входной последовательнос ти после текущего и разрядного адреса "1", а НЕ-нейроподобные элементы - при наличии в последовательности после текущего и разрядного адреса цОц 55 1Изобретение относится к областиМоделирования нейронных сетей и кобласти ассоциативных запоминающихустройств и может быть использованоав устройствах распознавания образов,в частности для распознавания речи,Цель изобретения - повышение точности воспроизведения запомненной вустройстве для моделирования нейронный сетей информации, что достигает Ося эа счет учета ширины следа образаи, тем самым, статистических характеристик обучающей выборки.Устройство позволяет выровнятьфиэическйе веса информационн 6 одинаково значимых "0 и 1, а такжеучесть при воспроизведении информацию с аналогичных устройств для моделирования нейронных сетей другихуровней, если устройство работает в 20иерархической структуре,На чертеже приведена блок-схемаустройства для моделирования нейрон-ных сетей.Устройство для моделирования нейронных сетей содержит блок 1 нейроподобных элементов, который состоит из первой и второй групп 2 и 3нейроподобных элементов, первая группа 2 нейроподобных элементов содержит ЗОв2 И-нейроподобных элементов 4, отличающихся комбинацией тормозных и возбуждающих связей - адресом нейроподобного элемента, вторая группа 3 нейроподобных элементов содержит 2 НЕ-ней роподобных элементов 5, также отличающихся в адресных комбинациях, ключи6, первый и второй счетчики 7 и 8числа единиц, схему 9 сравнения, инвертор 10, вход 11 данных устройства, 40выход 12 устройства, вход 13 выборарежима устройства и вход 14 синхронизации устройства,Устройство для моделирования нейронных сетей работает следующим образом. В режиме воспроизведения замыкаются ключи 6. Для запуска воспроизведения необходимо подавать на вход 11 символы входной последовательности в течение и циклов, Подавая входную последовательность, мы заполняем мо 1 ЗО 5732дели обобщенных дендритов нейроподобных элементов 4 и 5 и-членным отрезком последовательности, тем самьм осуществляя адресацию нейроподобных элементов. Затем по этим адресам счи тывается записанная ранее информация, которая осуществляет дальнейшую адресацию по линии обратной связи, что позволяет воспроизвести всю, запомненную ранее, последовательность. 10Таким образом в течение и циклов работы устройства для моделирования нейронных сетей в моделях обобщенных дендритов нейроподобных элементов и 5 накопится и-членный отрезок вход ной последовательности, адресующий один или больше И-нейроподобных элементов 4 и (или) НЕ-нейроподобных элементов 5. В (и+1)-м цикле на вход 11 устройства можно не подавать ин - 20 формации (технические средства для этого режима на чертеже не показаны). При этом адресованные И-элементы 4 и НЕ-элементы 5 в зависимости от того, обучены они или нет, ответят единицей, если они обучены, и промолчат в противном случае. Их ответ пройдет на счетчики 7 и 8. Первый счетчик 7, таким образом, суммирует число И-нейроподобных элементов 4, запомнивших 30 переход из данного адреса в "1", а второй счетчик 8 суммирует число НЕ- нейроподобных элементов 5, запомнивших переход в "0". Накопленные ответы поступают с выходов счетчиков 7 и 8, 35 подсчитывающих число единиц, на входы схемы 9 сравнения.По результату на выходе схемы 9 сравнения можно судить о том, какой символ запомненной последовательности следующий. В момент поступления импульса на вход 14 этот символ поступает на входы моделей обобщенных дендритов нейроподобных элементов и 5. На (и+2)-м цикле указанный сим вол и (и-) предыдущих символов заполняют обобщенные дендриты нейроподобных элементов 4 и 5, формируя новый адрес, и все повторяется. Таким образом, удается воспроизвести всю 50 запомненную последовательность. На вход 11 в режиме воспроизведения может подаваться некоторая информация. При этом она взаимодействует с внутренней информацией, облегчая или ухудшая воспроизведение, т.е. появляется возможность контролироьать процесс воспроизведения извне.В результате использования в устройстве нейроподобных элементов свременной суммацией входного сигналаи включения в устройство второгосчетчика числа единиц и схемы сравнения, выравниваются физические весаинформационно равнозначных ответовэлементов 4 и 5, что позволяет учестьширину следа траектории запомненнойпоследовательности (число ответившихИ-элементов 4 и НЕ-элементов 5) . итем самым увеличить точность воспроизведения запомненной последовательности,формула изобретенияУстройство для моделирования нейронных сетей, содержащее две группыпо 2" нейроподобных элементов, гдеи - длина адресного слова, характеризуюшая распределение возбуждающих итормозящих связей в модели обобщеннога дендрита каждого нейроподобногоэлемента, две группы по 2" ключейи первый счетчик числа единиц, выходустройства соединен с информационными входами нейроподобных элементов,синхронизирующне входы которых подключены к синхронизирующему входу устройства, вход выбора режима которогосоединен с управляющими входами ключей первой и второй групп, информационные входы которых подключены ксоответствующим выходам нейроподобныхэлементов, выходы ключей первой группы соединены соответственно с первыми 2 информационными входами первого счетчика числа единиц, (2 +)-йинформационный вход которого подключен к входу данных устройства, о т -л и ч а ю щ е е с я тем, что, сцелью повышения точности моделирования, в него введены инвертор, второйсчетчик числа единиц и схема сравнения, выход которой подключен к выходу устройства, выходы ключей второйгруппы соединены соответственно спервыми 2 информационными входамивторого счетчика числа единиц,(2 +1)-й информационный вход которого через инвертор подключен к входу данных устройства, выходы первого и второго счетчиков числа единицсоединены с входами первой и второйгрупп схемы сравнения соответственно,1305732 М 2 Составитель А.Яицковедактор В.Данко Техред Л.Сердюкова Корректор А а 4 жгород, ул. Проектная, 4 145549 Тираж 673 ВНИИПИ Государственного комите по делам изобретений и открь 113035, Москва, Ж, Раувская