51,2
рейтинг
11 марта 2014 в 14:32

Разработка → Логика мышления. Часть 9. Паттерны нейронов-детекторов. Обратная проекция



Этот цикл статей описывает волновую модель мозга, серьезно отличающуюся от традиционных моделей. Настоятельно рекомендую тем, кто только присоединился, начинать чтение с первой части.

Продолжим разговор о нейронах-детекторах. Предположим, на зону коры посредством волновых туннелей проецируется некая информация. Каждый из проекционных пучков – это аксоны нейронов, расположенных на той зоне, которая эту информацию посылает. Проекция снимается с малого по площади участка коры. Волокна проекционного пучка, по сути, транслируют проходящие по этому участку волновые картины. То место принимающей коры, куда приходится проекция, само становится источником волн. Эти волны несут на принимающей зоне коры ту же информацию, что и волны на исходной зоне.

Если мы настроим веса какого-либо нейрона на узнавание определенного волнового узора, проходящего по его рецептивному полю, то мы превратим его в детектор, срабатывающий в тот момент, когда появляется характерное для него сочетание идентификаторов.

Если мы обучим несколько расположенных в относительной близости друг от друга нейронов детектировать одну и ту же волновую картину, то мы получим уже не одиночный нейрон-детектор, а детекторный паттерн. Реакция одного нейрона-детектора на характерный стимул – пакет импульсов вызванной активности. Реакция детекторного паттерна – это вызванная активность группы нейронов, образующих определенный узор. Естественно, что такой паттерн вызванной активности начнет обучать кору на распространение своего уникального идентификатора.



Получается, что когда зона коры получает описание, состоящее из определенных признаков, ее детекторные паттерны реагирует на знакомые им сочетания и порождают собственные волны, которые несут информацию о новых признаках, узнанных этой зоной. Таким образом, зона коры сначала обнаруживает статистические закономерности в поступающей на нее признаковой картине и формирует паттерны-детекторы, соответствующие этим закономерностям, а затем, получая описания в одних признаках, она генерирует собственное описание в тех признаках, что были выявлены ранее этой зоной.

Логику такого преобразования нейронных описаний можно сопоставить с логикой словесных описаний, что не удивительно, так как эти явления тесно связаны между собой. Предположим, мы видим различных зверей. Каждого из них мы можем описать набором признаков. Например, мы видим зверя с описанием: большой, коричневый, лохматый. Не зная, что это за зверь, мы можем так его и называть: большой-коричневый-лохматый. Само сочетание признаков образует идентификатор этого животного. Если этот зверь встречается нам часто, то мы можем зафиксировать закономерность того, что эти признаки встречаются совместно, и дать этому сочетанию собственное название, например — медведь. Далее мы можем оперировать понятием «медведь» как самостоятельным. При этом мы имеем возможность в случае необходимости восстановить по понятию «медведь» все его исходные признаки.

Говоря о реальном мире, удобно использовать термин «явление». Его удобство в его общности. Этот термин описывает не только предметы, но и происходящие с ними процессы. Любую воспринимаемую нами картину мы можем назвать явлением. Каждое явление, с которым мы сталкиваемся, порождает описание. Описание – это совокупность картины активности нейронов-детекторов, образующих паттерны, и порождаемых ими идентификационных волн.

Можно назвать паттерн нейронов-детекторов, срабатывающих на один образ, и соответствующую ему идентификационную волну понятием. Тогда можно говорить о том, что любое явление представляется мозгом, как набор описаний, состоящих из понятий. Для каждой зоны коры описание строится на своем наборе понятий.

Когда нейроны-детекторы выделяют какую-либо новую закономерность или фиксируют новое сочетание признаков так, что при этом образуется паттерн таких детекторов, которые способны порождать собственную уникальную волну, можно говорить о формировании нового понятия. Трактовкой этого понятия могут быть те события реального мира, которые создали такое сочетание признаков, и на которые теперь реагируют соответствующие нейроны.

Формирование паттернов. Обратная проекция


Паттерн нейронов-детекторов, настроенных на общий стимул, позволяет запустить собственную уникальную волну идентификатора. Это соответствует узнаванию образа и включению советующего понятия в описание происходящего. Чтобы идентификатор был уникальным, достаточно, чтобы нейроны-детекторы создавали свой узор, непохожий ни на один из волновых узоров, проходящих через их место расположения. Опишем простую модель, создающую такой паттерн.

Вернемся ненадолго к описанию механизмов нейронного взаимодействия. Основной путь передачи сигналов от одного нейрона к другому – это выброс из аксонной терминали передающего нейрона нейромедиаторов в синаптическую щель. На поверхности нейрона, принимающего сигнал, располагаются рецепторы, реагирующие на определенный нейромедиатор, являющийся для него лигандом. Часть рецепторов расположена в синапсах и отвечает за синаптическую передачу, часть за пределами синапсов и ответственна за волновую активность.

Нейромедиаторов существует достаточно много, включая нейроактивные пептиды, их насчитывается более полусотни. Наиболее распространенный активирующий нейротрансмиттер – глутамат, подавляющий – гамма-аминомасляная кислота (ГАМК). Способность активировать или подавлять не является свойством самого нейромедиатора, а определяется типом взаимодействующего с ним рецептора. Чтобы передача сигнала могла состояться, необходимо, чтобы нейромедиатор, выбрасываемый аксоном, и принимающие его рецепторы соответствовали друг другу.

До конца 80-х годов прошлого века считалось, что каждый нейрон выбрасывает один и тот же медиатор во всех терминалях своего аксона – «принцип Дейла». Но позже было показано, что существуют нейроны, использующие различные комбинации медиаторов.

Возьмем для моделирования нейроны двух гипотетических типов, работающие с одним медиатором, назовем его (A). Различие между типами нейронов будет в том, где у них будут располагаться рецепторы, чувствительные к общему медиатору (таблица ниже).
Синапсы
Вне синапсов
Аксон
Тип 1 -
A
А
Тип 2 A - А
Нейромедиаторные характеристики нейронов. Чувствительность рецепторов и выброс аксона

Нейроны первого типа не имеют в своих синапсах рецепторов, чувствительных к используемому медиатору. Но такие рецепторы есть у них на внесинаптической части мембраны. Это значит, что эти нейроны не способны к синаптическому обучению на картины активности, которые создаются нейронами, как первого, так и второго типа, но они способны обучаться на распространение волновой активности и быть передатчиками идентификационной волны.

Возьмем теперь зону коры, состоящую из нейронов обоих типов. Например, просто перемешаем их случайным образом. Наличие вкраплений нейронов второго типа никак не отразится на способности коры обучаться проводить волны идентификаторов, используя нейроны первого типа.

Предположим, что мы каким-то образом определили место на коре, где хотим создать детекторный паттерн.


Место, выбранное для обучения

Предположим, что мы решили все вопросы, связанные с обучением, и наша задача сейчас просто зафиксировать прототип. Сделаем это уже знакомым нам способом. Заставим нейроны второго типа, находящиеся в этой области и незанятые в обучении, поучаствовать в генерации случайных спайков. Установим вероятность спайка такой, чтобы получить столько активных нейронов, сколько нейронов-детекторов требуется нам в итоговом паттерне. Случайные спайки создадут уникальный узор из нейронов второго типа, локализованный в выбранной области.

Далее поступим в соответствии с принципом Хебба, используем активность нейронов второго типа как сигнал к их обучению. Изменим веса их синапсов в соответствии с наблюдаемой ими на их рецептивных полях волновой картиной. В результате мы получим паттерн нейронов-детекторов, настроенных на только что прошедший набор идентификаторов. Повторение волновой картины приведет к вызванной активации всех нейронов паттерна. Нейроны первого типа подхватят этот паттерн и превратят его в распространяющуюся волну нового идентификатора.

Мы получили очень простой, но замечательный результат. Определенное сочетание идентификаторов способно порождать свой собственный уникальный идентификатор.

Теперь несколько усложним модель. Добавим еще один медиатор (B) и изменим характеристики нейронов (таблица ниже).
Синапсы
Вне синапсов
Аксон
Тип 1 B
A
А
Тип 2 A B B
Характеристики нейронов, использующих два медиатора. Чувствительность рецепторов и выброс аксона

Поведение такой конструкции будет значительно интереснее. Нейроны второго типа, создав детекторный паттерн, не смогут распространить волну от него через нейроны первого типа, так как их тип аксонного медиатора не совпадает с внесинаптической чувствительностью нейронов первого типа. Но зато эти нейроны смогут сами распространить волну своего идентификатора. При этом интересно то, что входная и выходная активность коры окажется разделена. Если мы где-нибудь в стороне создадим выходной волновой туннель из аксонов нейронов второго типа, то он не передаст всю волновую картину, состоящую, в том числе, из множества входных признаков, а оттранслирует далее только описание, состоящие из распознанных понятий.


Изменение описания на зоне коры. 1 – выбранный участок обучения, 2 – область, излучающая входной идентификатор, 3 – область выхода, 4 – входной волновой туннель, 5 – выходной волновой туннель, 6 – входная волна идентификатора, 7 – выходная волна идентификатора

Но это еще не все. В той же выбранной области мы можем провести синаптическое обучение нейронов первого типа. Для них сигналом к обучению будет собственная волновая активность. Так как мы задали чувствительность синапсов нейронов первого типа только к медиатору (B), то картины, которые они воспримут – это узор того самого паттерна, что мы ранее обучили на нейронах второго типа. При этом сами нейроны-детекторы первого типа выстроятся в узор, повторяющий волну идентификаторов, которая прошла в момент обучения. Это значит, что если мы через встречный волновой туннель вернем на кору идентификатор понятия, обнаруженного ранее нейронами второго типа, то распространившись до выбранного места, он вызовет активность паттерна нейронов-детекторов первого типа. А так как эти нейроны повторяют узор фрагмента волны исходных идентификаторов, то их вызванная активность заставит распространиться по нейронам первого типа соответствующие идентификационные волны.

Таким образом, мы воспроизвели механизм обратной проекции. Кора в нашей модели способна транслировать информацию в обоих направлениях. В прямом направлении происходит интеграция признаков и изменение описания на более общее. В обратном направлении, получив соответствующий идентификатор, кора восстанавливает все соответствующие ему признаки и транслирует их вниз, если, конечно, есть соответствующая проекционная связь.

Мы получили достаточно простую конструкцию: в одну сторону – узнали понятие, в обратную сторону – восстановили признаки. Но эта простота двусторонней коммуникация является уникальным свойством для нейронных сетей. Традиционные сети идеологически однонаправленны, в них нельзя запустить сигнал «обратно по аксону» и этот недостаток не лечится никакими ухищрениями. При этом очевидно, что реальный мозг способен не только обобщать информацию, поднимая описание от уровня к уровню, делая его более абстрактным, но и транслировать описание обратно, превращая его в представляемые нами образы, внутреннюю речь, физические действия. Поэтому особенно радует, что наша конструкция позволяет достаточно естественно воспроизвести обратную проекцию, оставаясь в рамках механизмов, доступных и реальному мозгу.

Если заставить аксоны нейронов одного из типов генерировать сразу два медиатора, то мы получим распространение соответствующих идентификаторов сразу по двум слоям. Можно представить ситуации, где это окажется полезным. Вообще же комбинации медиаторов и рецепторов могут программировать самое неожиданное поведение коры. При этом приятно, что наша кора не требует никакой специальной топологической настройки. Нейроны образуют синаптические контакты со своим окружением, не заботясь о соблюдении каких-либо схем подключения. Очень похоже, что аналогичные архитектурные принципы свойственны и реальной коре.

Использованная литература

Продолжение

Предыдущие части:
Часть 1. Нейрон
Часть 2. Факторы
Часть 3. Персептрон, сверточные сети
Часть 4. Фоновая активность
Часть 5. Волны мозга
Часть 6. Система проекций
Часть 7. Интерфейс человек-компьютер
Часть 8. Выделение факторов в волновых сетях

Алексей Редозубов (2014)
Алексей Редозубов @AlexeyR
карма
164,7
рейтинг 51,2
Реклама помогает поддерживать и развивать наши сервисы

Подробнее
Реклама

Самое читаемое Разработка

Комментарии (16)

  • 0
    Спасибо за интересную статью, модель довольно любопытная.
    Однако хотелось бы все-таки хотя бы немного перейти к практике.

    Например обучить сеть описанного типа распознавать какую-нибудь простую задачку на классификацию. Для начала — с учителем. А дальше — с самообучением, скажем в варианте где мы определяем один из входов модели как «рецептор боли», подаем на него сигнал каждый раз когда модель дает неверное решение и смотрим как быстро получившаяся сеть научится избегать боли.
    • 0
      Вы описываете модель обучения с подкреплением. Следующие несколько частей будут посвящены описанию того как устроена память, а вот затем мы очень подробно разберем тему оценок состояния, оценок качества ситуации и проистекающим из этого схемам поведения.
  • 0
    Я, пожалуй, тоже был бы рад увидеть практическое применение вашей модели. Честно признаться, начал читать вашу книгу про логику эмоций и она вызывает много вопросов, я думаю, при публикации в серьезном издании критики было бы выше крыши — ваша модель сильно упрощает происходящее, никак не отвечает на главные вопросы психологии эмоций, например, как разделяются аффект, эмоция, настроение, чувство (к кому-то), чем являются модальности эмоции, у вас отсутствую в каком-либо виде феномены, связанные с волевым поведением.

    Но, вполне возможно, с точки зрение построения работающей модели такое упрощение даст свои плоды. Желаю удачи и возможности увидеть статью на хабре с работающими моделями.
    • 0
      Книга очень сильно упрощена, ставилась задача объяснить природу эмоций без формул и сложных алгоритмов. В последующих статьях эмоции будут разобраны от и до на более серьезном уровне.
      • 0
        И в вашей модели разрешаются указанные мною трудности?
        • 0
          Да. Полностью.
          • +1
            Буду ждать следующих статей. Пока что, простите, это голословные утверждения. Если же все и правда так, поздравляю с грядущей нобелевкой.
  • 0
    Кстати для инитересующихся вопросом, вот занимательная статейка с кратким обзором одного интересного труда довольно известного ученого, занимающимся вопросами поисками сознания в мозге, может кому будет интересно. (Прошу не считать рекламой)
  • 0
    У меня возник такой вопрос: а как в реальности смоделировать еще необученную кору? Пусть даже без туннелей к другим участкам коры и без взаимодействия с соседними участками. Взять миллион объектов типа «нейрон», произвольно связать их друг с другом, распределив, кто какие «медиаторы» генерирует, и кто на какие реагирует — будет ли этого достаточно? А как смоделировать наращивание на аксонах миелина?
    И, главное, как на железном уровне всё это реализовать?
    • 0
      Связи не произвольные. Нейроны имеют позиции в пространстве. Для распространения идентификационных волн и слежения за ними достаточно иметь связи, случайным образом плотно распределенные по небольшому окружающему пространству. Но это только часть задач, которые решает кора. Далее будет разговор о еще нескольких механизмах.
      • 0
        ого
  • 0
    А можно пояснение про несинаптическую связь? Я так понимаю, про нее рассказывалось в четвертой статье, но я не смог разобраться, как же она все-таки устроена и на что реагирует, на мой вкус именно четвертая статья написана очень сложным языком.
    • 0
      В комментарии, в двух словах не получится. В седьмой части есть пример с башнями, возможно он поможет.
      • 0
        Оу, я как-то умудрился ее пропустить! Спасибо.
  • 0
    Возник вопрос по поводу следующего:
    Изменим веса их синапсов в соответствии с наблюдаемой ими на их рецептивных полях волновой картиной.

    Насколько я понял из описания нейроны второго типа не имеют возможности реагировать на нейромедиатор А на рецептивных полях (вне синапсов). Каким образом они воспримут волновую картину?
  • +1
    Все сигналы на нейрон приходят через синапсы в виде выброса медиаторов. При этом реагировать на них могут как рецепторы в самих синапсы так и внесинаптические рецепторы. В первом примере настройка чувствительности такова, что нейроны первого типа могут создавать волну, но не могут ей синаптически обучаться (не видят). Нейроны второго типа не участвуют в волне, но видят ее своими синапсами и могут обучаться.

Только зарегистрированные пользователи могут оставлять комментарии. Войдите, пожалуйста.