Перцептроны в бионике
Учеными – биониками в результате разработки технических моделей биологических анализаторов было создано несколько экспериментальных образцов – перцептронов, предназначенных для автоматического восприятия и опознания зрительных образов.
В принципе возможно создание перцептронов, моделирующих органы слуха, обоняния, осязания и других чувств. В частности, разработаны кибернетические автоматы, опознающие произносимые вслух названия цифр.
Практический интерес представляет собой разработка перцептронов, способных распознавать объекты, сигналы от которых недоступны непосредственному восприятию человека. К таким объектам можно отнести, например, источники инфракрасного излучения, источники радиочастотных или ультразвуковых колебаний и др. Применение перцептронов может значительно упростить процесс ввода информации в машину, делая возможным автоматическое считывание машиной исходной информации и инструкций об ее обработке с печатного или рукописного текста или даже ввод в машину устной информации и команд вместо предварительной заготовки перфокарт или перфолент. Кибернетические машины, снабженные заменителями анализаторов- перцептронами, будут представлять собой высший класс автоматов, которые могут в условиях автономного существования наиболее целесообразно взаимодействовать с внешней средой и другими кибернетическими автоматами. Наконец, создание моделей анализаторов открывает в перспективе пути протезирования утраченных человеком органов чувств. Остановимся несколько подробнее на наиболее разработанной задаче автоматического опознания визуальных образов, реализуемой при помощи так называемых квазизрительных перцептронов.
Опознание какого-либо объекта может быть определено как формирование некоторого сигнала или кода, однозначно соответствующего опознаваемому объекту, независимо от изоморфных преобразований этого объекта. Под изоморфными преобразованиями понимаются такие видоизменения объекта, которые не приводят к уничтожению его основной сути (с точки зрения опознающей системы).
Рис 32 Примеры изоморфных преобразовании изображения буквы.
Иными словами, при изоморфных преобразованиях не должны быть уничтожены те основные признаки, по которым опознается объект. Простейшие изоморфные преобразования заключаются в изменении масштаба изображения, его яркости, ориентации и местоположения относительно других объектов или рецептора. Подобные преобразования заглавной буквы «А» иллюстрируются верхним рядом на рис. 32. Более сложные преобразования того же изображения показаны в нижнем ряду на рис. 32. Здесь нарушения непрерывности линий буквы или некоторые искажения ее деталей могут сделать невозможным опознание ее автоматом, хотя человек по-прежнему воспринимает все эти начертания как букву «А».
Таким образом, «с точки зрения» автомата некоторые из этих преобразований могут оказаться не изоморфными, тогда как человек воспринимает их как изоморфные. Автоматическое опознание зрительных образов (букв, цифр, силуэтов кораблей или летательных аппаратов и др.) может решаться двумя основными путями. В одном случае образ, подлежащий опознанию, может быть точно описан аналитически, т. е. с ним могут быть сопоставлены некоторые определенные математические соотношения, тогда возможен детерминированный (строго определенный правилами, программой действий) процесс опознания. При этом для опознания используются предпрограммированные перцептроны, т. е. автоматы, состояния которых однозначно определяются программой, заложенной в них до начала процесса опознания.
Однако в ряде случаев достаточно точное логическое описание изображения представляет значительные трудности, а иногда оказывается и невозможным.В таких случаях для опознания могут быть использованы самоорганизующиеся перцептроны, которые как бы «обучаются», изменяя в процессе работы свою программу и устанавливая и запоминая при этом основные признаки объекта, по которым он может наиболее эффективно опознаваться. Наиболее примитивное решение задачи опознания сводится к простому сравнению объекта, например опознаваемых печатных букв или цифр, с некоторым образцом (шаблоном, трафаретом).
Более совершенны и гибки методы считывания знаков с применением принципов развертки изображения, для которой могут быть применены как электромеханические (диски с прорезями), так и электронные (электроннолучевые трубки) устройства. При этом могут употребляться развертки по горизонтали, по вертикали, по спирали, по радиусу и др. В результате на выходе развертывающей части устройства получаются электрические сигналы, изменяющиеся во времени непрерывно или представляющие собой дискретные коды, соответствующие опознаваемым объектам.
Дальнейший процесс опознания заключается в сличении полученных от развертывающего устройства функций или кодов с соответствующими функциями или кодами, хранящимися в запоминающем устройстве предпрограммированного перцептрона, и установлении меры их взаимного соответствия.
При этом в результате изоморфных преобразований опознаваемого изображения могут произойти такие изменения формы и структуры сигнала на выходе развертывающего устройства, которые сделают практически невозможным опознание объекта. Например, при строчной развертке при повороте на значительной угол опознаваемой буквы или цифры сигнал на выходе неузнаваемо изменяется. Резко изменяется также расстояние между импульсами, соответствующими тем или иным элементам опознаваемой буквы, при изменении масштаба этой буквы и т. п. Все это значительно увеличивает трудности машинного опознания, хотя не представляет почти никаких дополнительных трудностей при опознавании объекта человеком.
Следовательно, целесообразно попытаться разработать иные методы машинного опознавания, которые позволили бы автомату воспринимать основные характеристики начертания букв или цифр независимо от их размеров, ориентации и других изоморфных преобразований
Один из таких методов, носящий название квазитопологического, может быть упрощенно описан следующим образом Представим себе устройство, позволяющее совершать последовательный обход всех элементов буквы «А» и фиксировать на ней точки обрыва линии кодом 1 и точки, где сходятся три или более линий, – кодом 0. Примем далее следующий метод обхода. Начав его, например, с нижней левой точки а (рис. 33), будем двигаться до точки разветвления (в данном случае до точки б), от которой нужно продолжать обход по ближайшему справа пути до точки г и далее до точки д.
Рис. 33. Получение кода буквы «А> методом обхода ее изображения (кваэнтомологический метод).
При попадании в точку, где линия обрывается (в данном случае точка д), нужно повернуть обратно и по тем же правилам продолжать движение до возвращения в исходную точку а.
Таким образом, при обходе буквы «А», изображенной на рис. 33, а, будут пройдены точки а, 6, г, д, г, в, б, а. Это в соответствии с принятыми нами обозначениями характерных точек даст код: 1001001 (точка в, в которой нет ни обрыва, ни разветвлений линий, не рассматривается как характерная). Тот же самый код будет получен и при ином начертании буквы «А», изображенном на рис. 33, б. Очевидно, что при поворотах или изменении масштаба изображения буквы описанный способ обхода будет давать один и тот же код, что значительно облегчает процесс опознавания. Тот же код может быть получен и при некоторых изменениях способа начертания буквы, как, например, закруглении острых углов, замене прямых линий кривыми и др.
Предложен также ряд других способов подготовки (препарирования) изображения и собственно процесса опознавания, описанных в специальной литературе по этому вопросу. Для опознавания более сложных изображений, характеризующихся не только контурами, но и их заполнением, яркостью, цветностью, объемностью и т. д., требуются значительно более сложные методы развертки или иного препарирования изображений. При этом процесс опознания настолько усложняется, что жесткое программирование его становится практически невозможным. Наиболее универсальный путь преодоления этих трудностей заключается, по-видимому, в способе, подсказываемом органической природой и заключающемся в создании самоорганизующихся опознающих систем.
Достаточно строго разработанной теории таких систем пока не существует, хотя к настоящему времени создано довольно много самоорганизующихся перцептронов. Некоторые из них уже упоминались в одном из первых разделов книги.
Наибольшее число публикаций (статей и книг) посвящено одной из первых самоорганизующихся опознающих систем – перцептрону «Марк-1» Ф. Розенблатта. Приведем некоторые сведения об этой модели.
Перцептрон «Марк-1» основан на теории статистического различения. Перцептрон способен после некоторого периода «обучения» воспринимать, классифицировать и символически отображать объекты окружающей среды без участия человека-оператора. Основная отличительная черта перцептрона состоит в том, что для его работы не требуется предварительное точное логико-математическое описание всех внутренних соединений и переключений. Принцип действия перцептрона поясняется схемой, приведенной па рис. 34. 
Рис. 34 Схема, поясняющая принцип действия перцептрона. Р - рецепторные (чувствительные) ячейки; А - ассоциирующие ячейки, Э – эффекторная ячейка.
На этой предельно упрощенной схеме показана модель перцептрона с тремя рецепторными, восемью ассоциирующими и одной эффекторной ячейками. Рецепторная ячейка включает в себя фотоэлемент и имеет два выхода. При освещении ячейки на одном из выходов появляется положительный, а на другом – отрицательный сигнал.
Соединения между рецепторными и ассоциирующими ячейками носят совершенно случайный, беспорядочный характер. Однако они фиксированы при изготовлении перцептрона и в процессе работы не меняются.
Если алгебраическая сумма сигналов, поступающих в какую-либо ассоциирующую ячейку от рецепторных ячеек, положительна и превышает некоторую пороговую величину (в данном простейшем случае- положительное напряжение, вырабатываемое одной рецепторной ячейкой), то соответствующая ассоциирующая ячейка выдает сигнал в эффекторную (реагирующую) ячейку. Суммарное значение сигналов, поступающих в эффекторную ячейку, сравнивается в ней с заранее установленным пороговым значением, в результате чего эффекторная ячейка срабатывает или не срабатывает. При Этом может произойти ложное срабатывание (а это, учитывая случайный характер монтажных соединений, вполне возможно), т. е. эффекторная ячейка может сработать, когда предъявленный перцептрону объект не должен опознаваться. Тогда оператор, занимающийся обучением перцептрона, изменяет параметры ассоциирующих ячеек, добиваясь от перцептрона правильной реакции. Таким же методом вырабатывается правильная реакция перцептрона и в противоположном случае, когда подлежащий опознанию предмет оказывается неопознанным. После некоторого периода обучения перцептрон в дальнейшем принимает правильные решения «самостоятельно».
Если теперь вспомнить те модельные представления, которые были введены в главе, посвященной нейронам, то нетрудно понять, что фактически структура перцептрона «Марк-1» является нейтронной сетью. Ассоциирующая ячейка есть не что иное, как пороговый нейрон, возбуждающийся в том и только в том случае, когда алгебраическая сумма входных сигналов превысит некоторую пороговую величину.
Эффекторная ячейка является моделью мотонейрона. Это не случайное сходство. Автор и создатель перцептрона «Марк-1». Ф. Розенблатт является специалистом по нейрофизиологии. В основу схемы перцептрона были положены нейрофизиологические представления о том, что связи между нейронами мозга носят случайный характер. Из-за огромного числа нейронов в мозгу и еще большего числа соединений между ними (к отдельным нервным клеткам прилегает более 1 000 синапсов) невозможно передать полную схему мозга, его тонкую структуру с помощью наследственной информации. Кроме того, Ф. Розенблатт исходил из предположения, что память в нервной системе не локализована, а распределена по всему полю нейронов. Теорию перцептронов, развиваемую на основе этих представлений, Ф. Розенблатт называет теорией механизмов мозга.
Фактически в перцептроне «Марк-1» входное устройство представляет собой квадратную матрицу из 400 миниатюрных фотоэлементов. Общее количество ассоциирующих ячеек равно 512. Каждая такая ячейка содержит пороговый детектор, в котором производится оценка величины суммарного сигнала, поступающего от фоторецепторов. Если сигнал превышает пороговое значение, то ассоциирующая ячейка выдает сигнал той или иной величины и знака. Этот сигнал снимается с потенциометра, движок которого приводится в движение электродвигателем, управляемым оператором в процессе «обучения» перцептрона.
Эффекторпые ячейки перцептрона представляют собой пороговые элементы триггерного действия. Таким образом, перцептрон, предназначенный для опознавания 32 букв алфавита, должен иметь пять эффекторных ячеек, что позволяет, применяя двоичный код, описать 32 объекта. О сложности монтажной схемы устройства можно судить по следующим данным. От каждой из 400 рецепторных ячеек перцептрона «Марк-1» отходит 40 выходных проводников, подключаемых в случайном порядке к ассоциирующим ячейкам, каждая из которых имеет от 10 до 100 входов.
Для последующих реализаций схемы перцептрона были разработаны более компактные элементы центрального слоя. В одном из вариантов вместо потенциометра, управляемого электродвигателем, предлагается использовать магнитный интегратор, выполненный на основе ферритового сердечника сложной конфигурации, так называемый «минд», что расшифровывается как «магнитный интегратор, подобный нейрону» (в английской транскрипции).
Для перцептрона характерен длительный и сложный процесс «обучения». Существуют различные режимы обучения «с поощрением», «без поощрения», «с наказанием» и др. Из-за случайного характера связей длительность процесса обучения и его эффективность («сходимость процесса») могут значительно различаться для разных перцептронов одного и того же класса. Каждый отдельный перцептрон при обучении как бы проявляет свою «индивидуальность».
Это хорошо соответствует психологическим представлениям об обучении разных индивидуумов. По окончании «обучения», когда потенциометры (или интеграторы) приведены в определенные состояния и доучивание перцептрона не осуществляется, можно определить эти состояния и построить новую схему, в которой вместо переменных пороговых величин используются постоянные, соответствующие «обученным» состояниям. Так, вместо потенциометров могут быть впаяны постоянные сопротивления, номиналы которых соответствуют окончательным положениям движка потенциометра. Это позволяет после окончания процедуры обучения создать много относительно простых устройств, абсолютно подобных по эффективности опознания сложной опознающей перцептронной системе, которую они копируют. По такому принципу было создано несколько компактных, «непереучиваемых» перцептронов, предназначенных для опознания тех и только тех объектов, на которые был «обучен.» перцептрон-прообраз.
Большая избыточность случайных связей и распределенная память способствуют высокой надежности перцептронных схем. Для проверки надежности проводились такого рода эксперименты. Обученный на опознание ряда изображений перцептрон подвергался операции уничтожения отдельных элементов. Ясно, что для этого совсем не обязательно физически уничтожать нейроноподобные ячейки. Их просто электрически полностью выключали из схемы. В зависимости от того, насколько удачны были попадания экспериментатора в наиболее чувствительные точки системы, с уничтожением нейронов перцептрон в большей или меньшей степени ухудшал надежность правильного опознания изображений. Но было установлено, что даже после того, как 7/8 от общего числа нейронов было полностью выведено из системы, вероятность правильного опознания была не ниже, чем 60-70%. Если вспомнить обычную электронную Схему, например, радиоприемника, которая полностью перестает выполнять свои функции, если только выйдет из строя хотя бы один элемент, то станет ясным, что несмотря на в сущности примитивную схему перцептрона «Марк-1», она обладает необычайными способностями функциональной живучести.
В перцептроне «Марк-1» можно насчитать три слова: рецепторный, ассоциирующий, эффекторный. В последующих разработках устройств типа перцептрона «Марк-1» были использованы многослойные структуры – четырехслойная и более. По данным теории это должно повышать эффективность перцептрона. Экспериментальные проверки подтвердили это теоретическое предположение. Блок-схема перцептрона в целом приведена на рис. 35. 
Рис. 35. Блок-схема перцептрона. 1 - поле рецепторов; 2 - случайные соединения: 3 - блок ассоциирующих ячеек; 4 - эффекторные ячейки. В одном из первых разделов в связи с обсуждением работы отборочного фильтра в зрительном анализаторе упоминалась модель глаза лягушки.
Рассмотрим подробнее схему моделирования зрительных процессов, происходящих в глазу лягушки, на примере устройства, сконструированного и построенного инженерами фирмы RCA. Эта модель демонстрировалась на одном из симпозиумов по бионике в США. На рис. 36 дано схематическое изображение зрительного анализатора лягушки.
Рис. 36. Схематическое изображение зрительного анализатора лягушки. 1 - сетчатка; 2 - зрительный нерв; 3 - мозг.
В верхней левой окружности показаны силуэты предметов, отображаемых на сетчатку в ходе моделирования процессов в отборочном фильтре глаза. На выходе периферийной части глаза показаны ответвления и четыре круга, в каждом из которых представлены те элементы изображения, на которые отборочный фильтр лягушки разлагает все объекты, появляющиеся в поле зрения. Эти элементы условно называют следующим образом: I – края темного изображения на светлом фоне; II – выпуклости определенной кривизны; III-линии контраста; IV – потускнения (последнее следует понимать как своего рода угасающее послесвечение, наблюдать которое можно на экране электроннолучевой трубки).
Модель глаза лягушки представляет собой оптико-электронное устройство параллельного действия. Входные сигналы, несущие информацию о наблюдаемом предмете, отображаются на иоле фотоэлементов (фоторецепторов), которые вместе с полем нейроноподобных логических элементов образуют первый слой «глаза» лягушки. Выходные сигналы первого слоя, как и трех последующих слоев, можно наблюдать по загоранию неоновых лампочек, число которых соответствует числу элементов (для первого слоя – числу фоторецепторов, для второго и третьего – числу нейронов).
Таким образом, имеется четыре слоя модели – по числу операций выделения элементов изображения, между которыми осуществляется оптическая связь (световое соединение) с помощью пар «неоновая лампа – фотосопротивление». Всего в модели более 2 000 таких пар соединений. Входное поле второго и последующих слоев представляет собой как бы внутреннее рецептивное поле с оптическим входом и оптическим же выходом. Если пренебречь инерционностью фотосопротивлений и временем срабатывания нейроноподобных пороговых элементов, то можно считать, что практически мгновенно все четыре поля выдают информацию о предмете, попавшем в поле зрения. В высшие отделы анализатора лягушки (в рассматриваемой модели – на выходные индикаторы) поступает не изображение предмета, а совокупность сигналов о фиксированных признаках: контур, характерные выпуклости, линии контраста, степень подвижности предмета. Мозг лягушки принимает решение о том, насколько наблюдаемый предмет похож (по данной совокупности признаков) на добычу – мушку, комара и др.
Специалисты фирмы RCA надеются, что подобного рода моделирование зрительного анализатора лягушки позволит им создать опознающие устройства для разведывательных систем, способных мгновенно распознавать летящие ракеты, в то время как существующие электронно-вычислительные устройства, несмотря на огромное быстродействие, затрачивают слишком много времени на баллистический расчет, по результатам которого также возможно опознание ракеты.
Извините, комментирование закрыто.