Устройство для моделирования классифицирующей нейронной сети

О П И С А Н И Е (и)943766ИЗОБРЕТЕН ИЯК АВТОРСКОМУ СВИДЕТЕЛЬСТВУ Союз СоветскикСоциапистическииРеспубики(5 )М. Кл, 6 06 б 7/60 Ъеударстееиаа квмитет СССР ае демам изоеретеиий и втирмтий(54) УСТРОЙСТВО ДЛЯ МОДЕЛИРОВАНИЯ КЛАССИФИЦИРУЮШЕЙ НЕЙРОННОЙ СЕТИ 1Изобретение относится к устройствамдля моделирования нейронных сетей, распознающих речевые сигналы, и может ,быть использовано в устройствах автоматического.,распознавания речи различных5 кибернетических систем.Известна модель нейронной сети, содержащая блок кратковременной памяти слогов, матрицу двувходовых нейрс нов и блок возбуждения столбцов матрицьь 1 ев Выходы блока кратновременной памяти соединены с соответствующими горизонтальнымй цепями возбуждения матрицы, вььходы блока возбуждения с соответствукяцими вертикальными цепями возбуждения мат-т 5 рицы 1Когда из блока памяти поступает сигнал о новом слоге, он распространяется вдоль некоторой строки матрицы. Одновременно возбуждается очередной стол-. 20 бец матрицы и происходит возбуждение соответствующего нейрона матрицы. Таким образом, в матрице образуется некоторый "след памяти", соединяющий 2точки, возбужденные в настоящий и предыдущий моменты времени.Недостатком данной модели являетсяневысокая надежность, обусловленнаяжесткой зависимостью результатов рас-,познавания от работы блока возбуждения.В случае пропадания сигналов возбуждения или выдачи ложных сигналов происходит ложный сдвиг всей последующейчасти "следа памяти", что резко ухудшает сходство с эталоном,Наибопее близким техническим решением является многослойная нейроннаясеть, ооотовщев вв 2:А вейровов,образующих ( И) слойную пирамидальную .сеть, каждый -й слой которой содержит (И- ) нейронов, каждый е -йвход сети соединен с первым входом-го нейрона первого слоя и с вторыФвходом ( 1-1)-го нейрона первого слоя,выход каждого 1-го нейрона -го слояподключен.к первому входу 1-го нейрона ( +1)-го влоя и к второму входу6 аНа фпг. 1 показана нейронная сеть,распознающая слова дл,"п И фонем, поступающих на входы Х,1, Х Х,Сеть имеет пирамидальную структуру.Первый входной слой содержит ( и)нейронов, второй - ( И) и т,д. всегосеть имеет (И -1) слоев, а общее числонейронов равноидти-)ЯНа фиг. 2 показана модель нейрона,где соответственно обозначены задерживающий и прямой входы 1 и 2, детектор 3 начала сигнала, детекторы 4 и 5конца сигналов, элементы задержки 6 и 7,элементы ИЛИ 8 и 9, триггер 10, ячейка11 аналоговой памяти.со входами записи12, чтения 13 и сброса 14, выход 16модели нейрона,Устройство работает следующим образом,При подаче на входы Х Х"Хивременной последовательности сигналовсеть на выходе первого слоя вырабатывает сигналы о наличии 2-фонемных фрагментов, на выходах второго слоя - о наличии 3-фонемнь 1 х фрагментов и т,д. Напоследнем уровне формируется суммарный сигнал о степени соответствия входного набора эталону.В частном случае, когда на входе присутствует "собственный" образ, на который настроена данная сеть, отклик сетиравен сумме амплитуд входных сигналов,взятых с некоторыми весовыми коэффициентами. В случае неразборчивого звучания или зашумленности отдельных фонем сигналы на соответствующих входахсети могут пропадать, что приводит к ууменьшению степени сходства с эталоном,причем сходство монотонно убывает свозрастанием числа ошибок, тем самымобеспечивается определенная устойчивостьсети к ошибкам предыдущего уровня обработки сигналов,Отклик сети на произвольную последовательность можно определить в терминах линейной алгебры с помощью весовыхкоэффициентов и операторов задержкикак произведение транспонированной матрицы входных сигналов на матрицу передаточных отношений сети.Например, для И= 4 имеем.Передаточное отношение сети 3 94376 ход нейрона (И -1)-го слоя является выходом устройства 2.Недостатком известного технического решения является неспособность многослойной нейронной сети решать задачу распознавания слов по входной последовательности фонем.Цель изобретения - повышение надежности классификации временных последовательностей сигналов. 1 ОПоставленная цель достигается тем, что в устройстве для моделирования нейронной сети, состоящей из - нейронов, образующих ( и - 1)-слойную И -входсвую пирамидальную сеть, каждый 1 -й 15слой которой содержит (11 -1) нейронов,каждый -вход сети соединен с первым входом 1-го нейрона первого слоя и с вторым входом ( 1-1)-го нейрона первого слоя, выход каждого-го нейрона А -го слоя подключен к первому входу1 -го нейрона ( + 1)-го слоя и к второму входу (1 - 1)-го нейрона ( 1+ 1)-го слоя,выход нейрона(И)-го слоя является выходом устройства, каждый нейрон сети выполнен в виде двувходового нейрона с задерживающим и прямым входами и содержит детектор начала сигнала, два детектора конца сигнала, две линии задержки, два элемента ИЛИ, триггер, ячейкааналоговой памяти и сумматор выход которого является выходом нейрона, задерживающий вход которого подключен к информационному входу записи ячейки ана логовой памяти и через первый детектор35 конца сигнала - к входу первого элемента задержки, выход которого соединен с первым входом первого элемента ИЛИ и через второй элемент задержки - с первым входом второго элемента ИЛИ,40 выход которого подключен к входу сброса ячейки аналоговой памяти и к нулевому входу триггера, единичный выход которого соединен с управляющим входом чтения ячейки аналоговой памяти, выход45 которой подключен к первому входу сумматора, прямой вход нейрона соединен с вторым входом сумматора, через второй детектор конца сигнала - с входом второго элемента ИЛИ и через детектор начала сигнала - с вторымвходом первого5055 где 1 элемента ИЛИ, выход которого подключен к единичному входу триггера, задерживающий вход нейрона сети является первым входом, прямой вход - вторым входом нейрона сети.На фиг. 1 представлена структура нейронной распознающей сети; иа фиг. 2 - модель нейрона. ЭР 5 Р=Э Р ЭР,Р задержка на 1 шагов- коэффициент передачи вход 1выход.943766 6нет искажений) изводят выходные сигналы элементов задержки 6 и 7 (величины задержек несколько больше ожидаемых задержек в распознаваемом слове). В случае отсутствия сигнала по входу 1 выходным сигналом схемы является значение сигнагде К, К, К и К - коэффициенты проогпорциональные ам-плитудам сигналов 0о фонемах на входах сети. Отклик сети Ч=Р = (КоРЬ+К,РКР+К 5 о) 5 Если Р= К = 1, Ч= 40В случае пройзвольной входной последовательности реакция сети представлена20 долиномом который можно трактовать .как временную последовательность импульсов причем амплитуда 1 -го импульса соответствует коэффициенту при В" , а длительность - реальной длительности входной фонемы.Наличие в выходном полиноме члена с коэффициентом, превышающим порог срабатывания выходного нейрона, соответствует распознаванию входного образа. 50Настройка сети состоит в предварительном подключении входов сети к сост ветствующим шинам фонем, в выборе вессов входов и выборе порога срабатывания выходного нейрона.35В данной сети функция кратковременной памяти нейпона может быть выполнепа с целью устранения влияния разброса длительностей элементов слова нарезультат распознавания сети на модели нейрона (фиг. 2) с запоминанием предыдущего сигнала с синхронизацией выходного суммарного сигнала от текущего входного сигнала.При нормальной ситуации сигнал по45 входу 1 запоминается в ячейке 1.1. Сигнал по входу 2 через детектор 3 и элемент ИЛИ 8, воздействуя на триггер 10, производит чтение из ячейки 11, при этом на входы сумматора 15 поступают полностью совмещенные во времени сигналы.50 На выходе 16 сумматора 15 образуется суммарный сигнал, По окончании действия импульса на входе 2 через детектор 4 и элемент ИЛИ 9 производится сброс ячейки 11, и одновременно на выходе . схемы устанавливается "О". В случае отсутствия, сигнала по входу 2 управление чтением и сбросом ячейки 11 прола на входе 2. В данную схему линиизадержки включены для того, чтобы выходной сигнал формировался во всех случаях, в том числе и при отсутствии сигнала на входе 2. В нормальной ситуации(при наличии обоих входных сигналов,следующих в ожидаемой последователности) сигналы с выходов элементовзадержки не оказывают влияния на работу схемы,Использование двувходовых нейронов с кратковременной памятью, соединенных в виде пирамиды, повышает надежность распознавания за счет устойчивости сети к входным ошибкам и упрощает устройство.фор мула изобретенияУстройство для моделирования классифицирующей нейронной сети, состоящей из "ф" нейронов образующих (И - 1- Я.слойную И -входовую пирамидальную сеть, каждьй-й слой которой содержит (Ю - 1) нейронов, каждый-й вход сети соединен с первым входом 1-го нейрона первого слоя и с вторым входом (1 1) го нейрона первого слоя, выход каждого 1 -го нейрона-го слоя подключен к первому входу -го нейрона (+ 1)-го слоя и к второму входу (- 1)-го нейрона ( +1)-го слоя, выход нейрона ( и - 1)-го слоя является выходом устройства, о т л и ч а ю щ е е с я тем, что, с целью повышения надежности, классификации временных последовательностей сигналов каждый нейрон сети выполнен двувходовым с задерживающим и прямым входами и содержит детектор начала сигнала, два детектора конца сигнала, две линии задержки, два элемента ИЛИ, триггер, ячейку аналоговой памяти и сумматор, выход которого является выходом нейрона, задерживающий вход которого подключен к информационному входу записи ячейки аналоговой памяти и через первый детектор конца сигналак входу первого элемента задержки, выход котсрого соединен с первым входом первого элемента ИЛИ и через второй элемент задержки - с первым входомФ7 943766 8второго элемента ИЛИ, выход которогового элемента ИЛИ, выход которого подключен к входу сброса ячейки анало- подключен к единичному входу триггера, говой памяти и к первому входу тригге- задерживаюший вход нейрона сети являра, единичный выход которого соединен . ется первым входом, прямой вход - втос управляюшим входом чтейия ячейки 3 рым входом нейрона сети.аналоговой памяти, выход которой под- Источники информации,ключен к первому входу сумматора, принятые во внимание при экспертизе прямой вход нейрона соединен с вторым 1. Дейч С. Модели нервной системы. входом сумматора, через второй детек- М., "Наука", 1970, с. 45.тор конца сигнала - с вторым входом о 2, Повии Н. В. Моделирование нейвторого. элемента ИЛИ и через детектор ронных структур. М., Наука", 1970, начала сигнала - с вторым входом пер- с 116 (прототип).